León XIV llama a “desarmar” la Inteligencia Artificial (IA) para evitar que sea utilizada con fines bélicos en “un mundo en guerra permanente”, en su primera encíclica, titulada “Magnifica Humanitas” (Magnifica Humanidad) que él propio pontífice presentó, inéditamente, este lunes.
El texto, que es una carta pastoral dirigida a toda la Iglesia, tiene como subtítulo “Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial” y ha sido publicado cuando se cumplen 135 años de la promulgación de la encíclica Rerum Novarum en la que su predecesor, León XIII, afrontó la cuestión de la doctrina social en el contexto de la Revolución Industrial.
Te recomendamos
"Instrumento de dominio"
Ahora la humanidad se encuentra ante la irrupción de la IA, con su potencial y sus peligros y en el documento, de 231 páginas, Robert Francis Prevost alerta sobre el riesgo de que una élite la controle en un mundo que “ha rehabilitado la guerra como instrumento de política internacional”.
Por ello, al término de la presentación de la encíclica por un panel de expertos en el aula del Sínodo del Vaticano, el Papa intervino e insistió en la necesidad de “desarmar” la IA y liberarla de la lógica que la transforma “en instrumento de dominio, de exclusión y de muerte”.
“Desarmar es una palabra fuerte, lo sé, pero ha sido elegida deliberadamente porque este momento necesita palabras capaces de atraer la atención, despertar las conciencias e indicar la vía a seguir para la humanidad”, reiteró.
En el acto estuvo presente Christopher Olah, cofundador de Anthropic, empresa líder en seguridad y en la investigación sobre la IA creada en 2021 por ex miembros de OpenAl, a quien León XIV agradeció por haber aceptado la invitación “a caminar juntos para encontrar un nuevo camino para la humanidad”.
Te recomendamos
Elegir entre una torre de babel o la ciudad de Dios
“La magnifica humanidad creada por Dios se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos”, es el pàrrafo con el que Prevost abre el documento, firmado el 15 de mayo.
Recuerda que con la encíclica Rerum Novarum, promulgada en 1891, su “amado” predecesor, León XIII, “dio impulso a esa reflexión sobre la sociedad, la economía y la política que hoy llamamos Doctrina Social de la Iglesia”.
El papa reconoce, sin embargo, que la tecnología, en sí misma, no debe ser considerada como una fuerza antagonista respecto a la persona y que, al contrario, ha acompañado a la humanidad desde el inicio.
“Es un hecho profundamente humano, vinculado con la autonomía y la libertad del hombre”, anota.
“Hoy, sin embargo, nos encontramos ante una situación nueva, en la que la potencia y la difusión de las tecnologías emergentes se insertan en la trama de la cotidianeidad, plasmando los procesos decisionales e inciden profundamente en el imaginario colectivo”, resalta.
Te recomendamos
Se multiplican los frentes de conflicto
Igualmente, León XIV advierte que el escenario internacional es ahora mucho peor que durante la Guerra Fría, cuando solamente había dos bandos contrapuestos. Actualmente - dice - “la multiplicación de los actores y de los frentes de conflicto hace que la lógica del equilibrio armado sea cada vez mas frágil”.
En la encíclica, subdividida en 5 capítulos, además de una introducción y las conclusiones, el pontífice insiste en que es “ilusorio” pensar que las atrocidades del siglo XX ni puedan repetirse y llama “superada” la doctrina de la “guerra justa”.
“No existe ningún algoritmo que pueda hacer moralmente aceptable la guerra”, reitera Prevost y subraya que IA “no es neutral”, pues detrás de ella se esconde una visión concreta de la persona.
Por ello se dice preocupado que “un poder de esa magnitud se concentre en pocas manos”, se vuelva “opaco”, eludiendo el control publico y alimente “un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”.
El papa llama a regular la IA y analizarla bajo la pregunta sí verdaderamente contribuye a hacer crecer a las personas “en fraternidad, en el respeto de la Casa común y a las generaciones futuras”.
La IA, según Prevost, “asume el rostro de quien la financia, la regula y la usa”. Por ello llama a “construir el bien” y “ser humanos” siguiendo la lógica de la corresponsabilidad “valiente”, de la subsidiariedad y de la comunión para que “el mundo pueda reconocer… en el corazón del ser humano el lugar donde Dios desea habitar”.
En el tercer capítulo del texto, León XIV pone en guardia contra el “paradigma tecnocrático” según el cual cada decisión es tomada exclusivamente bajo los parámetros de la eficiencia y la ganancia.
“La IA puede imitar y simular al hombre, pero no tiene conciencia moral, empatía, capacidad afectiva, relacional y espiritual”, advierte.
Sobre todo, dice, “se necesita un código ético sometido a criterios de justicia social compartida, porque no sirve una IA moral, si esta moral es decidida por pocos”.
Te recomendamos
Encíclica es respuesta de la Iglesia católica a nuevos desafíos tecnológicos: Ibero
El papa León XIV presentó este lunes la encíclica Magnifica Humanitas (Noble humanidad), un documento dedicado a reflexionar y orientar sobre los impactos éticos, políticos y sociales de la Inteligencia Artificial, lo que representa uno de los posicionamientos más relevantes de la Iglesia católica frente a los desafíos tecnológicos contemporáneos, advirtió, Luis Arriaga Valenzuela, rector de la Universidad Iberoamericana.
El también sacerdote jesuita, abogado y doctor en educación, explicó que la encíclica, dirigida “a todas las personas de buena voluntad”, forma parte del magisterio pontificio y busca orientar la reflexión y la acción pública frente a las transformaciones provocadas por la digitalización, la robótica y la inteligencia artificial.
En entrevista con MILENIO, precisó que el texto establece un paralelismo histórico con la encíclica Rerum Novarum, publicada en 1891 por el Papa León XIII durante la Revolución Industrial, y en la que advertía sobre la situación de los obreros y las familias desarraigadas y empobrecidas por la rápida transformación industrial.
Es ahora, que en otro cambio de época, el Papa León XIV presenta una reflexión donde la IA representa hoy una nueva cuestión social comparable con las profundas transformaciones industriales de finales del siglo XIX.
No obstante, advierte que el problema no es únicamente técnico, sino también moral y político: quién controla la tecnología, quién la financia, cómo se regula y con qué fines se utiliza.
“Reconoce que la digitalización, la inteligencia artificial, la robótica están transformando la vida cotidiana de las personas, la economía, el trabajo, la política, la cultura, prácticamente todas las ramas del conocimiento y advierte que la humanidad nunca había tenido tanto poder sobre sí misma y el problema también lo plantea como un problema político y un problema moral” indicó.
La encíclica señala además que muchas de las innovaciones tecnológicas actuales ya no son impulsadas principalmente por los Estados, sino por corporaciones privadas con capacidades económicas superiores a las de numerosos gobiernos. Frente a ello, el Papa hace un llamado a orientar el desarrollo tecnológico hacia el bien común y no hacia la concentración de riqueza y poder en pocas manos.
Arriaga Valenzuela detalló que el documento utiliza diversas referencias bíblicas para ilustrar sus argumentos. La figura de Babel aparece como símbolo de la tentación de construir una sociedad basada únicamente en la eficiencia, el dominio y la autosuficiencia, reduciendo a las personas a simples datos o funciones.
En contraste, la imagen de Nehemías (considerado principal artífice de la reconstrucción de las murallas de Jerusalén y gobernador de las la provincia de Judea entre el 445 a. C. - 433 a. C. a) representa la reconstrucción comunitaria, la cooperación y la responsabilidad hacia los sectores más vulnerables.
Agregó que entre las principales preocupaciones expuestas se encuentran el incremento de las desigualdades sociales, la manipulación de la información, la fabricación de consensos mediante algoritmos, la vigilancia masiva y el desarrollo de sistemas automatizados aplicados a la guerra.
Necesidad de planificación responsable
El Papa también cuestiona quién debe asumir responsabilidad moral y jurídica frente a decisiones tomadas por sistemas de IA.
Al ser un documento orientador, la encíclica propone fortalecer las instituciones internacionales, promover una mayor cooperación entre las naciones y establecer reglas comunes para orientar el poder tecnológico.
Asimismo, enfatiza la necesidad de proteger los derechos de las mujeres, las minorías y los grupos más vulnerables frente a los riesgos derivados del uso irresponsable de estas herramientas digitales.
Nunca antes había ocurrido que un Papa estuviera presente en el Aula en la que se presenta al público uno de sus documentos magisteriales, y lo hizo acompañado de representantes de la Iglesia, cardenales, académicos y especialistas en inteligencia artificial provenientes de diversas universidades y centros tecnológicos como Silicon Valley. Entre los asistentes destacaron el cardenal Víctor Manuel Fernández y el cardenal Michael Czerny, además de investigadores y expertos en ética tecnológica.
El rector de la Ibero aclaró que lejos de rechazar la inteligencia artificial, Magnifica Humanitas plantea la necesidad de una planificación responsable, una evaluación constante del impacto humano de la tecnología y mecanismos regulatorios orientados al bienestar colectivo. El documento concluye con un llamado a científicos, educadores, legisladores, comunidades religiosas y ciudadanos a participar activamente en el debate público sobre el futuro tecnológico de la humanidad.
LJ
