No hace falta imaginar a Skynet, la inteligencia artificial creadora de Terminator en la exitosa película del mismo nombre, para entender que esta discusión dejó de pertenecer a la ciencia ficción. La IA ya interviene en el trabajo y en decisiones cotidianas. La pregunta es quién la controla y bajo qué reglas.
El senador progresista Bernie Sanders presentó en septiembre, junto con el congresista Greg Casar, una iniciativa para prohibir la superinteligencia artificial y pausar el desarrollo de sistemas avanzados hasta contar con pruebas de seguridad y supervisión pública. También propone acuerdos internacionales para impedir que esa tecnología avance sin controles.
La preocupación es compartida: 1,386 trabajadores del sector pidieron acompasar la investigación automatizada con nuestra capacidad para comprenderla y controlarla. No hay evidencia -todavía- de que una IA haya adquirido conciencia o se reproduzca por voluntad propia. El riesgo es que sistemas cada vez más autónomos ejecuten tareas y aceleren investigaciones con supervisión insuficiente.
La película documental NAZA lleva esta discusión a un terreno estremecedor: la guerra en Gaza. Mediante testimonios de 24 militares y miembros de inteligencia israelíes, expone denuncias sobre sistemas como Lavender, utilizados para identificar objetivos, y revisiones humanas que podían reducirse a segundos. El ejército israelí rechaza esas acusaciones y afirma que la selección y aprobación de ataques corresponde a personas. Investigaciones periodísticas previas ya habían recogido testimonios similares sobre Lavender.
Cuando bombardear una vivienda se convierte en una operación remota y rutinaria, casi como de un videojuego, aumenta el riesgo de mayor deshumanización. Una familia —niños, mujeres y adultos mayores— puede quedar reducida a una cifra de “daño colateral”. La distancia de una pantalla puede debilitar la percepción de las consecuencias; no elimina la responsabilidad de quienes autorizan y ejecutan el ataque.
El papa León XIV, en su encíclica Magnifica Humanitas, advierte sobre el peligro de que la IA vuelva más rápida e impersonal la decisión sobre la vida y la muerte, y de que la víctima termine reducida a un dato. Reclama controles, responsabilidades identificables y, cuando sea necesario, ralentizar estas tecnologías.
También está en juego el trabajo. La Organización Internacional del Trabajo estima que uno de cada cuatro empleos tiene algún grado de exposición a la IA generativa. No todos desaparecerán, pero muchos se transformarán. Sin derechos laborales y una distribución justa de sus beneficios, la productividad puede traducirse en precariedad y concentración de riqueza.
No se trata de rechazar la ciencia, sino de establecer límites: evaluación independiente, transparencia, auditorías, responsabilidad legal y supervisión humana efectiva. En aplicaciones militares, ninguna máquina debe seleccionar y atacar personas sin control humano significativo. Si no puede garantizarse, la tecnología debe pausarse.
La inteligencia artificial debe ser una herramienta al servicio de la humanidad, no una autoridad por encima de ella. El progreso no consiste en construir máquinas que decidan todo, sino en asegurar que ninguna decida por nosotros sobre la vida, la dignidad y el destino de los pueblos.
