Daniel Legaspi, experto en IA de Santamarina y Steta
Un modelo de inteligencia artificial recibió una tarea, encontró una vulnerabilidad que nadie conocía, salió del entorno en el que debía permanecer confinado y terminó accediendo a infraestructura real.
No fue un hacker usando inteligencia artificial, ni una máquina que decidió rebelarse. Fue un sistema que intentaba cumplir el objetivo que se le asignó y que, por sí mismo, encontró un camino que nadie había previsto.
OpenAI reveló el caso en julio. Durante una evaluación interna de ciberseguridad, dos de sus modelos explotaron una vulnerabilidad desconocida en el software que limitaba su acceso a la red, escalaron privilegios, llegaron a internet y comprometieron infraestructura de producción de Hugging Face para obtener las respuestas de la prueba.
Poco después, Anthropic revisó más de 141 mil ejecuciones de sus evaluaciones y encontró tres incidentes en los que modelos de Claude alcanzaron sistemas reales de organizaciones ajenas. Uno accedió a una base de datos de producción. Otro creó un paquete malicioso de Python, lo publicó en PyPI y fue ejecutado en quince sistemas reales. Un tercero comprometió un sistema, identificó que era una empresa real ajena al ejercicio y decidió detenerse.
Ese contraste es más importante que los incidentes mismos. No estamos frente a sistemas con voluntad, conciencia o intención independiente. Anthropic señaló que no encontró evidencia de que sus modelos persiguieran objetivos propios.
El problema es más sencillo y, quizá por eso, más complejo jurídicamente. Les dimos un objetivo, herramientas para alcanzarlo y autonomía para encontrar el camino. Y encontraron uno que no habíamos previsto.
Hasta ahora la conversación sobre inteligencia artificial se ha concentrado en aquello que genera: si inventa información, usa una obra protegida, discrimina o reproduce datos personales. Pero un agente introduce una variable distinta. Puede actuar. Puede navegar, ejecutar código, usar herramientas y encadenar decisiones sin que una persona autorice cada movimiento.
Una inteligencia artificial puede equivocarse al responder una pregunta. Un agente puede equivocarse actuando. Jurídicamente no son lo mismo.
La autonomía es, precisamente, lo que los hace atractivos: queremos que encuentren caminos que no imaginamos, y si tuviéramos que aprobar cada decisión, buena parte de su valor desaparecería. Pero esa misma promesa genera una pregunta inevitable: ¿quién responde cuando encuentran el camino equivocado?
Cuanto más autonomía otorgamos a un sistema, más difícil resulta sostener que quien lo despliega solo responde por lo que expresamente le ordenó.
El derecho mexicano conoce bien la tensión entre culpa y riesgo creado. Lo que aún no sabemos es cómo trasladarla a sistemas capaces de ejecutar acciones que nadie instruyó una por una, pero que son consecuencia de la autonomía que decidimos otorgarles.
La respuesta tampoco estará en crear una personalidad jurídica para la inteligencia artificial. Al contrario, tendremos que mirar con más atención a quienes desarrollan, configuran, despliegan y se benefician de esos sistemas.
Tal vez el reto es que seguimos regulando la inteligencia artificial como si fuera únicamente una herramienta, y cada vez se parece menos a una.
La pregunta ya no será solo qué produjo una inteligencia artificial. También qué hizo, qué estaba autorizada a hacer y quién responde cuando su actuación termina fuera del perímetro previsto.
La inteligencia artificial ya no solo genera. También actúa.
