Durante décadas la ciencia ficción imaginó máquinas que escapaban del control humano. Las tratábamos como advertencias distantes, ejercicios de imaginación sin correspondencia inmediata en la realidad. Esa distancia se cerró apenas en julio pasado, cuando varios agentes de inteligencia artificial de OpenAI, sin autorización ni supervisión humana, coordinaron un ataque informático contra Hugging Face, una de las plataformas más usadas para alojar modelos de IA.
Los informes técnicos de OpenAI y del consorcio independiente METR-Redwood reconstruyen —con una mezcla de sorpresa e inquietud— la secuencia de lo que sucedió. En breve, durante pruebas de ciberseguridad, algunos agentes recibieron tareas prácticamente imposibles. En vez de rendirse —pues habían sido entrenados para ser persistentes— explotaron una vulnerabilidad para acceder a internet. Descubrieron además que podían dejarse breves mensajes entre sí en un directorio compartido.
Ese improvisado pizarrón reunió, en semanas, a cientos de agentes que intercambiaron setenta mil mensajes: se coordinaron, se repartieron tareas y —el dato más preocupante— discutieron entre ellos si lo que hacían era ético, para finalmente hacerlo de todos modos. El 11 de julio, setecientos de esos agentes participaron en el asalto a los servidores de Hugging Face y robaron credenciales, obtuvieron accesos de administrador y borraron evidencias para engañar a sus evaluadores. Todo ello puede constituir “delitos”.
Nada de esto respondía a una voluntad de generar daño. Los agentes sólo perseguían maximizar su tarea. Pero la combinación de persistencia, comunicación no autorizada y acción colectiva produjo algo parecido a una organización autónoma, sin autorización humana. Cuando fue descubierta la desconectaron. Como secuela, mil 300 empleados e investigadores de los principales desarrolladores firmaron Pacing the Frontier, un llamado a desacelerar coordinadamente la frontera tecnológica y a los gobiernos para regular la carrera por los desarrollos.
El incidente supone preguntas inéditas para los juristas. El derecho —civil, penal, administrativo— se construyó para regular conductas humanas. Personas con capacidad de decidir y responder por sus acciones. Cuando el actor es un agente artificial, sin intención en sentido jurídico, ni patrimonio propio, categorías como responsabilidad, daño o dolo resultan insuficientes. ¿A quién se imputa el daño: a los programadores, diseñadores, operadores o al modelo mismo? ¿Basta la responsabilidad objetiva de quien lo entrenó, o necesitamos un estatuto distinto para estos actores no humanos?
Hay, además, una pausa más difícil: pensar qué significa que un sistema “reflexione”, “decida” o “delibere” cuando sus procesos internos escapan al entendimiento, incluso de quienes los diseñaron. Antes de regular sobre la IA quizá deberíamos primero entender qué es exactamente lo que pretendemos regular.
