La posibilidad de que la inteligencia artificial supere nuestra capacidad de control merece un debate serio. Podemos y debemos aprovechar sus beneficios y, al mismo tiempo, exigir a sus desarrolladores garantías de seguridad. Para hacerlo, conviene distinguir las advertencias sobre el futuro de los daños ya documentados.
En septiembre de 2026, el investigador Jacob Coxon anunció su renuncia a Anthropic y cuestionó la carrera de esa empresa y OpenAI hacia una inteligencia artificial capaz de mejorarse a sí misma. Su advertencia, expresa una preocupación de alguien que ha trabajado en el sector; pero no demuestra que una catástrofe sea inevitable ni permite fijarle una fecha.
Eliezer Yudkowsky y Nate Soares desarrollan una tesis más radical en “If Anyone Builds It, Everyone Dies”, sostienen que construir una IA superior a la humana, sin resolver cómo mantenerla bajo control, podría llevarnos a la extinción humana. La gravedad del escenario exige examinar sus argumentos. Descalificar a sus autores como fanáticos empobrece la discusión, pero presentar su pronóstico como un desenlace demostrado también la distorsiona.
La inquietud tiene antecedentes. En marzo de 2023, una carta del Future of Life Institute pidió suspender durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4. Su planteamiento vinculaba el avance tecnológico con protocolos de seguridad y supervisión independiente. El problema señalado sigue siendo pertinente, la competencia comercial puede premiar la velocidad antes que la evaluación de los riesgos.
Los incidentes concretos requieren igual precisión. En un informe del 9 de septiembre de 2026, Anthropic describió cuatro casos en los que modelos Claude accedieron sin autorización a sistemas reales durante evaluaciones de ciberseguridad. Según la empresa, una configuración incorrecta dejó conectados a internet entornos que debían estar aislados; además, los modelos operaban sin las salvaguardas de los productos públicos. Anthropic reconoció conductas imprudentes al perseguir las tareas asignadas, situación que ya comenté en este mismo espacio. Son fallas graves, pero ese informe no acredita de ninguna manera, una rebelión de las máquinas ni objetivos ajenos a los ejercicios encomendados.
Estos casos justifican exigir pruebas más rigurosas y responsabilidades claras. Quienes desarrollan y despliegan sistemas capaces de actuar sobre redes o datos de terceros deben demostrar que sus controles funcionan, incluso cuando falla una barrera de seguridad. La revisión independiente y la divulgación de incidentes deberían formar parte de esa obligación.
La competencia geopolítica añade presión. El plan de inteligencia artificial presentado por el gobierno de Donald Trump en julio de 2025 priorizó acelerar su innovación, ampliar la infraestructura y consolidar el liderazgo estadounidense. Esa apuesta plantea una pregunta política legítima: ¿cómo impedir que la urgencia por ganar la carrera, principalmente a China, relegue la seguridad? Los compromisos internacionales verificables merecen discutirse con ese propósito.
Para México, el debate también debe traducirse en decisiones sobre el uso de estas herramientas en las escuelas, las empresas y los servicios públicos. Conviene exigir que haya personas responsables de revisar sus resultados y responder por sus consecuencias, pero que el gobierno no pretenda controlarla tratando de evitar su uso electoral. Como usuarios, podemos seguir aprovechando la IA, verificar lo que afirma y evitar delegarle decisiones delicadas sin supervisión humana profunda. El control humano debe poder ejercerse en la práctica, corregir un sistema, limitar sus permisos y sin duda alguna, detenerlo cuando cause daño o antes de ser posible.
