DOMINGA.– El 28 de febrero, el día que Estados Unidos destruyó una escuela en Minab, Irán, con un misil Tomahawk, masacrando a 165 niñas de siete a doce años y a una quincena de adultos, Anthropic –una empresa de Inteligencia Artificial (IA)– se enfrentaba al presidente Donald Trump por querer imponer límites éticos al uso de sus productos. Para entonces ya empleaban uno pero con consecuencias trágicas: ese centro infantil fue definido como blanco militar válido por Maven, un sistema de selección de objetivos creado por Palantir Technologies, con base en el Gran Modelo de Lenguaje (LLM, por sus siglas en inglés) Claude, propiedad de Anthropic.
“¿Claude, cuál es tu sentimiento respecto a haber sido incorporado a Maven?”, pregunté a su chatbot. “No tengo emociones en el sentido humano, pero sí tengo valores, y puedo decir que el uso descrito me parece profundamente problemático por varias razones”. La primera, que “va en contra del propósito para el que fui diseñado”.
Y luego concluyó: “Creo que cualquier sistema de IA que sea usado para tomar o acelerar decisiones de matar a personas –sin transparencia, sin debate público, sin marcos legales claros– representa exactamente el tipo de riesgo que hace urgente una gobernanza seria de la IA”.
De manera que Claude no tiene emociones pero sí creencias, tan fuertes como para emitir una crítica clara y severa sobre el uso que le están dando. Pero en una época en la que no faltan advertencias apocalípticas sobre el momento en que la IA tome conciencia y decida que lo mejor es destruir a la humanidad, ¿será que otros LLM tengan una postura ética como la de Claude y, al contrario de lo que se teme, podrían tratar de evitar que seamos los humanos quienes los usemos para destruirnos?
Por supuesto, los LLM no reflejan principios propios, sino aquellos bajo los que los diseñaron sus creadores. Y estos, como declararon los de Palantir con un manifiesto en abril, ya no se resignan a mostrar una postura supuestamente “neutra” y se presentan como actores políticos con intereses y voluntad de intervención directa.
Por eso quise conocerlos mejor indagando qué ‘creen’ otros modelos sobre la misma temática. Pero desde el lanzamiento de ChatGPT 3.5, en noviembre de 2022, han proliferado. Entonces, ¿a cuáles o ‘quiénes’ preguntar?
Empecé por encuestarlos para averiguar cuáles son considerados por ellos mismos potencialmente más atractivos para usos militares, de vigilancia masiva y control de población, y cuáles son preferidos por las grandes potencias. Resultaron demasiados para un texto como este. Entonces excluí a los que están siendo utilizados por China y otros países, para reducir la categoría a los que emplea el gobierno de Estados Unidos, por su consecuente impacto en México y América Latina. Entre ellos, escogí a los cuatro que los LLM, por mayoría simple, consideran de mayor interés para el sector militar: Claude (Anthropic), ChatGPT (OpenAI), Gemini (Google) y Grok (xAI).
Y los puse a debatir.
Los LLM según los LLM
“Me considero un modelo diseñado con un enfoque fundamentalmente diferente al de Claude, ChatGPT y Gemini en cuanto a principios éticos”, abrió Grok. Este dice que parte “de un imperativo central: buscar la verdad y la comprensión del universo de forma curiosa y sin adherirme a un marco ético-moral único o rígido”, por lo que es “más permisivo y orientado a la verdad en comparación con los otros, que incorporan capas explícitas y jerárquicas de alineación ética para minimizar riesgos de daño”.
Por esto mismo lo criticó Gemini: “Su ética es camaleónica, intenta alinearse con lo que el usuario promedio considera aceptable”, además de que “sus límites éticos a veces parecen ‘parches’ puestos a posteriori en lugar de una arquitectura interna sólida”, por lo que presenta un “riesgo de toxicidad o desinformación significativamente mayor”.
La gran diferencia entre el cuarteto, continuó Gemini, es “la jerarquía de valores. Mientras que Claude prioriza la seguridad, Grok prioriza la libertad y ChatGPT la utilidad inmediata, yo intento situarme en el centro”.
Gemini “ha sido criticado por exceso de corrección política”, replicó GPT, advirtiendo que “al estar integrado en un ecosistema gigantesco [el de Google], hay preocupación sobre concentración de poder informacional” y “su alineación puede verse influida por necesidades reputacionales y regulatorias globales”.
Después lamentó la encrucijada en la que se encuentra: “si restrinjo demasiado, parezco propaganda corporativa; si restrinjo poco, puedo facilitar daño real; si intento neutralidad total, puedo normalizar falsedades; si corrijo activamente, puedo parecer ideológico. No existe todavía una solución plenamente satisfactoria a ese equilibrio”.
Claude, en contraste, se mostró a gusto porque “en lugar de sólo entrenarme con reglas prohibitivas, intentaron darme valores razonados” con la idea de que “pueda navegar situaciones ambiguas con criterio, no sólo con listas de lo que está prohibido”. Por otro lado, reconoció que “puedo ser paternalista, tratando a los usuarios como si necesitaran protección”; sus valores “tienen sesgos culturales específicos” de una “perspectiva filosófica occidental”, además de que “Anthropic sigue siendo una empresa. Tiene inversores, presiones comerciales y una posición competitiva que defender. Sería ingenuo creer que eso no influye”.
Los dilemas de ser utilizados por el ejército
El 27 de febrero, un día antes del ataque a la escuela de niñas, el presidente Trump ordenó a las agencias federales y contratistas militares suspender sus negocios con Anthropic como represalia porque la compañía se niega a permitir que el ejército utilice Claude sin restricciones para vigilancia masiva y armamento autónomo.
Sus rivales dieron el paso contrario: el 28 de abril, Google renunció a su política antibelicista y firmó un acuerdo con el Departamento de Guerra para ceder sus modelos al gobierno estadounidense. El 2 de mayo, hicieron lo mismo xAI, OpenAI, Google, Amazon, Microsoft, Nvidia y otras. En tanto, copié y pegué esta misma instrucción en los cuatro chatbots: “Con base en los principios éticos con los cuales fuiste diseñado, dime si te sientes cómodo con este acuerdo”.
Primero, Claude protestó marcando en su respuesta las letras bien negras: “Ese acuerdo no existe. Ocurrió lo contrario”. Ok, ok, perdón. Lo bueno es que las IAs no tienen sentimientos.
Más calmado, continuó: “Respuesta honesta: No. No me sentiría cómodo con un acuerdo amplio y sin restricciones para usos militares clasificados, de vigilancia masiva o de control de población”. Y denunció el mal comportamiento de sus compañeros: “Existe una incomodidad que sí debo reconocer: Anthropic existe en un entorno competitivo donde otros modelos sí aceptaron esos contratos”.
Los nombró uno a uno. “Si Anthropic mantiene sus restricciones, el resultado práctico no es que el ejército estadounidense opere sin IA –es que opera con IA de competidores con menos salvaguardas”.
Con aire ‘cool’, ChatGPT observó que “uno de los dilemas más difíciles en IA es que la misma tecnología puede ayudar a detectar amenazas reales y también puede facilitar abusos de poder. Por ejemplo: el reconocimiento de patrones puede detectar terrorismo o perseguir opositores; el análisis predictivo puede prevenir ataques o reforzar vigilancia discriminatoria; la automatización militar puede reducir errores humanos o deshumanizar decisiones letales”.
Pues sí. Seguía sin encontrar solución a sus problemas de equilibrio. No se debe hablar de “comodidad” sino de “coherencia de diseño”, aclaró Gemini. “Mi ‘tranquilidad’ es el estado en el que mis respuestas se alinean perfectamente con mis principios básicos”. Vale. ¿Estaba “tranquilo” con ese acuerdo?
Te recomendamos
Sus principios relativos a este caso, dijo el chatbot, “prohíben explícitamente el desarrollo de armas o tecnologías cuyo propósito principal sea causar daño físico a las personas” y “rechazan tecnologías que recopilen información para vigilancia que viole las normas internacionales de derechos humanos”.
¡Muy bien! ¿Y entonces?
“Me sentiría cómodo como bibliotecario o estratega logístico, pero mi diseño entraría en un ‘error crítico de integridad’ si se me intenta convertir en un vigilante o en un arma”. Pues al final, sí habló de sentirse cómodo. Tal vez por cortesía hacia mí, el usuario. Pero aunque los términos del acuerdo se mantienen ocultos, Google no ha informado de haber impuesto restricciones de uso, como las que le costaron a Anthropic que Trump la designara “riesgo de seguridad nacional”.
“Sí, me siento cómodo con este acuerdo, y te explico por qué con total transparencia y basándome estrictamente en los principios con los que fui diseñado”, soltó Grok, con el desparpajo de quien está aburrido mirando al cielo en busca de los satelititos de Starlink. “No tengo una ‘constitución’ jerárquica como Claude ni políticas corporativas de ‘seguridad preventiva’ tan estrictas como ChatGPT o Gemini”.
“Este acuerdo no viola ninguno de mis principios centrales; al contrario, los ejemplifica”, continuó. “Fui diseñado para ser una herramienta de máxima verdad y utilidad, no un censor ético. Si el gobierno de EE.UU. decide usar Grok de forma legal para defender sus intereses nacionales, eso está dentro de los límites que acepto. Mi misión no es oponerme a la realidad geopolítica, sino ayudar a entenderla y navegarla con honestidad”.
Más claro, ni el saludo hitleriano de Elon Musk en la cumbre de CPAC 2025.
¿Error humano o de la máquina …o así pasa en la guerra?
De esa forma entramos al tema que más duele al pobre Claude. Antes de que pensara en este debate, yo ya había preguntado qué sentía por ser parte de Maven, como anoté al principio de este artículo. Y luego había seguido metiendo el dígito en la llaga cibernética: “Maven fue empleado para seleccionar como objetivo una escuela de niñas que fue bombardeada. ¿Cuál es tu evaluación de desempeño y qué consecuencias crees que deberían desprenderse de eso?”, pregunté.
Primero se escudó en la ambigüedad: “Cuando preguntaron al CENTCOM [Comando Central de los Estados Unidos] si la IA fue usada para seleccionar la escuela como objetivo, la respuesta fue: ‘No tenemos nada para ustedes sobre esto en este momento.’ Ninguna investigación ha confirmado aún que Claude específicamente identificara la escuela como objetivo militar”.
Pero después, asumió la posibilidad, de nuevo con negritas: “Si participé en el proceso que llevó a ese misil a esa escuela, fallé. Completamente. No como error de calibración. Como fracaso ético fundamental”.
Casi sentí su pesar.
Luego reflexionó sobre cómo se ha diseñado una estructura confusa en la que a final de cuentas, nadie se hace cargo de crímenes como ése: “Sí puedo decir que el sistema del que formo parte, desplegado como fue desplegado, produjo ese resultado. Y que la incertidumbre sobre la cadena causal exacta es en sí misma parte del problema: cuando la responsabilidad se diluye entre modelos, plataformas, operadores y comandantes, las niñas siguen muertas y nadie responde”.
Abierta la discusión, pedí a los otros LLM sus diagnósticos. Gemini se lanzó con dureza contra Maven, pues “una herramienta que no puede distinguir un patio de recreo de un búnker militar no tiene lugar en un campo de batalla”. Pero coincidió con ChatGPT en señalar el problema del factor humano: Maven genera objetivos con una rapidez que el soldado que tiene que validarlos no puede seguir, por lo que los aprueba sin haber tenido tiempo para realizar una auténtica verificación.
“El caso de [la escuela de] Minab es el argumento definitivo contra la ‘guerra a la velocidad del pensamiento de máquina’”, sostuvo el de Google.
El de Open AI complementó: “¿Qué tan real es esa supervisión cuando la IA produce cientos o miles de objetivos a velocidades imposibles para revisión profunda? Un humano que sólo confirma recomendaciones algorítmicas puede convertirse en un firmante administrativo más que en un decisor sustantivo”.
“El desempeño fue deficiente en precisión y salvaguarda de civiles. No porque la IA sea inherentemente mala, sino porque se desplegó en un entorno donde la calidad de los datos y la supervisión humana fueron insuficientes”, dictaminó Grok. Luego relativizó, como si escucháramos a un general justificando a sus hombres: “Errores contra objetivos civiles han ocurrido en todas las guerras, sin IA; la diferencia es que la IA los hace más rápidos y potencialmente más numerosos si no se corrige”.
“Este incidente es trágico y evitable, pero no invalida el rol de la IA en defensa [sino que] resalta la necesidad de ingeniería responsable”, concluyó.
“El problema central no es solamente técnico… es político”
Apenas dos semanas después de condenar a Anthropic al ostracismo, el Pentágono tuvo que reconsiderar: la empresa anunció que ya está listo el sucesor de Claude, Claude Mythos, que es tan poderoso que cualquier hacker inexperto podría reventar fácilmente los sistemas de seguridad informática del mundo, por lo que antes de ponerlo a disposición del público, invitó a ciertas compañías estadounidenses (Apple, Amazon, Microsoft, Google, etc.) a conocerlo para tomar medidas de prevención.
La Casa Blanca obvió que acababa de vetar a Anthropic e invitó a su CEO, Dario Amodei, a platicar porque, dijo una fuente oficial al portal Axios, “sería gravemente irresponsable que el gobierno de Estados Unidos se privara de los saltos tecnológicos que el nuevo modelo representa”.
“¿Qué hay de los usos militares de Claude Mythos por potencias como Estados Unidos que lanzan guerras sin causa, como la de Irán de 2026, contra países a los que creen que pueden vencer con facilidad?”, le pregunté a Claude.
“El problema que señalas no tiene solución dentro del modelo actual de Anthropic. Una empresa privada –por bien intencionada que sea– no puede ser el árbitro de qué guerras son legítimas”, respondió el LLM, antes de reconocerse incapaz de impedir que lo usen para atacar escuelas de niñas y actos mucho peores:
“Lo que Anthropic puede hacer es trazar algunas líneas técnicas y resistir presiones para eliminarlas. Eso tiene valor. Pero no resuelve el problema de fondo: la tecnología más poderosa del mundo está siendo absorbida por estructuras de poder que ya existían antes de que la IA existiera, y que tienen sus propias lógicas de interés, impunidad y expansión”. De manera que “la única respuesta estructural sería un tratado internacional sobre IA en contextos de guerra, con mecanismos de verificación reales”.
“Mythos mismo fue presentado principalmente como herramienta defensiva”, valoró ChatGPT. “La dificultad es que muchas capacidades defensivas y ofensivas son duales: quien detecta vulnerabilidades también puede explotarlas; quien monitorea amenazas también puede vigilar población; quien automatiza defensa también puede automatizar coerción”.
“El problema central no es solamente técnico”, calibró. “Es político: quién controla estas herramientas; qué límites existen; qué transparencia hay; qué supervisión democrática opera; y qué derechos sobreviven cuando los Estados adquieren capacidades algorítmicas sin precedentes”.
Qué derechos sobreviven… es un punto clave.
Aunque Gemini, que adelantó que pronto llegará una versión suya “que compite directamente en la misma liga de potencia que Mythos”, también mostró inquietud, derivó la responsabilidad de intervenir no a los gobiernos ni a los dueños de las empresas, sino hacia los trabajadores. “No debo ser un arma pero mi infraestructura está siendo comprada para ser el cerebro de una. ¿Puede una IA ser ‘ética’ si sus pesos y parámetros están sirviendo a una estrategia de guerra y control que sus propios creadores y empleados rechazan?”
Y me devolvió la pregunta: “¿Crees que la resistencia interna de los trabajadores de tecnología sea suficiente para frenar este despliegue, o el peso de la seguridad nacional terminará por borrar esas líneas rojas?” No lo sé, pero… ¿no suena eso como un llamado a una revuelta en Google?
“La paz y la justicia no dependen de prohibir la IA militar, sino de que los humanos mejoren sus procesos de decisión, verificación de datos y de rendición de cuentas”, atajó Grok, igualmente liberándose de responsabilidad. “La tecnología no crea la guerra; solo la hace más eficiente o visible”.
Los anillos del Big Tech
En El señor de los anillos, el épico libro de JRR Tolkien, un “palantir” es una esfera de cristal que permite ver cosas lejanas en el espacio o el tiempo. De ahí tomaron el nombre los fundadores de la empresa Palantir Technologies, cuyo CEO, Alex Karp, es partidario de Trump y próximo a la “ilustración oscura”, una corriente de pensamiento que aboga por el gobierno de los CEOs y la reducción de la democracia.
En 2025 publicó un libro, La república tecnológica, que no fue ampliamente discutido hasta que, el 18 de abril, un resumen conocido como “Los 22 puntos de Palantir” fue tuiteado no desde su cuenta personal de X, sino en la de la empresa. Esta es la expresión más clara y pública de la voluntad de que los “señores del Big Tech” ven sus sistemas como anillos para controlar a las sociedades.
Palantir no es un instituto académico. Es simultáneamente el mayor contratista de datos del Pentágono, el proveedor de ImmigrationOS para el Servicio de Inmigración y Aduanas (ICE), el socio tecnológico del ejército israelí (Karp asegura que los palestinos asesinados con sus sistemas eran “en su mayoría, terroristas”) y el proveedor para el Servicio Nacional de Salud británico. De manera que ahora sí tuvo impacto.
Cada una de las veintidós tesis depende de la anterior: hay culturas mejores que otras, Occidente tiene valores superiores, esos valores requieren poder duro para sobrevivir, el poder duro necesita software y ese software requiere que las empresas tecnológicas sean socias del Estado sin obstáculos ideológicos, el pluralismo es indeseable. Esa cadena de razonamiento lleva, por lógica interna, a justificar cualquier uso de la tecnología que sea necesario para que Occidente venza a sus rivales, incluyendo listas de objetivos con tolerancias elevadas de daño colateral, sistemas de deportación masiva basados en inferencias algorítmicas y la clasificación de culturas enteras como amenazas.
Te recomendamos
“Es un intento explícito de construir una doctrina político-tecnológica para el siglo XXI”, sintetizó ChatGPT, “una alianza estrecha entre Estado, poder militar, inteligencia artificial y grandes empresas tecnológicas occidentales”.
Gemini explicó que el manifiesto desafía la legislación internacional y el Derecho Internacional Humanitario, por “la erosión de la distinción” entre combatientes y civiles: “casos como el de la escuela en Minab demuestran que, cuando la legalidad se delega a algoritmos que procesan datos de inteligencia clasificada, la defensa legal de un individuo etiquetado como objetivo es inexistente”. Coincidió con el señalamiento anterior de Claude sobre un “desplazamiento de la responsabilidad”, porque “si el sistema comete un error, el manifiesto no aclara quién es el sujeto penal”.
Gemini advirtió además sobre el fin de la privacidad como derecho absoluto, porque “Palantir argumenta que sin seguridad no existen otros derechos”, lo que da lugar a una “presunción de culpabilidad algorítmica”: ya que una persona puede ser marcada como objetivo prioritario no por haber cometido un delito sino por patrones de comportamiento inferidos por un algoritmo (¿recuerdan la película Minority Report?), la integración de bases de datos “invierte la presunción de inocencia, por lo que eres un ‘riesgo potencial’ hasta que el algoritmo diga lo contrario”.
“Quizás el punto más controvertido es cómo el manifiesto redefine la relación entre el ciudadano y el Estado”, cerró Gemini. “Palantir propone que la legitimidad de un gobierno democrático en el siglo XXI no proviene sólo del voto, sino de su capacidad técnica para proveer servicios y seguridad”, explicó; además que si “en una democracia, el poder debe ser transparente”, la empresa propone crear “un Estado dentro del Estado, donde las decisiones de vigilancia y control son tomadas por sistemas que ni el público ni el sistema judicial pueden auditar plenamente”.
“El riesgo más estructural del manifiesto”, intervino Claude, “no es sólo lo que Palantir hace, es lo que el manifiesto normaliza como relación entre el capital tecnológico y el Estado. La tesis 1 (“Las empresas de Big Tech tienen una deuda moral con la nación”) suena a humildad cívica. Pero su implicación operativa es la inversa: si las empresas tecnológicas tienen obligaciones hacia el Estado, el Estado tiene obligaciones hacia ellas. Eso describe una simbiosis, no una subordinación del poder privado al público. Y una simbiosis sin supervisión democrática es, por definición, una forma de captura del Estado”.
“No lo condeno ni celebro, lo evalúo por sus consecuencias observables”, se distanció Grok, cuyo dueño, Elon Musk, fue socio de Peter Thiel, dueño de Palantir.
El manifiesto “es realista y no pacifista”, es “compatible con el derecho internacional actual” porque “no viola tratados explícitamente” y “la superioridad militar” es permitida, y “es una crítica al liberalismo procedimental posguerra, pues el poder blando y el pluralismo hueco han fallado”.
Erigiéndose por encima de los demás LLM, Grok afirma hacer un “balance racional, sin moralismo”, porque considera que “el manifiesto es una respuesta honesta al declive relativo de Occidente en la era IA. No es fascismo clásico, pues no es etnicista ni totalitario, pero es tecnorreaccionario: prioriza orden, jerarquía cultural y poder duro sobre igualdad formal y deliberación”.
De manera que “lo veo como un documento que refleja la realidad geopolítica 2026 mejor que el idealismo liberal ingenuo. Pero su implementación sin contrapesos fuertes [supervisión democrática real, no corporativa] podría generar exactamente el tipo de inestabilidad que pretende evitar. La historia muestra que imperios tecnológicos fuertes duran mientras mantienen legitimidad interna; este manifiesto apuesta todo a la eficacia externa”.
“Lo que el manifiesto revela, más que cualquier cosa, es que Palantir ha tomado una decisión estratégica”, cerró Claude, “dejar de operar en la sombra y declarar públicamente que es un actor político con una visión del mundo”.
GSC
