Una serie de incidentes ocurridos en los últimos dos meses puso de manifiesto la grave amenaza que representa la inteligencia artificial (IA) más avanzada de la actualidad para la ciberseguridad. También proporcionó una lección práctica sobre cómo unos esfuerzos políticos desacertados pueden acabar obstaculizando, en lugar de ayudar, a las medidas de defensa.
Todo comenzó con una medida de Estados Unidos que, en la práctica, bloqueó el nuevo modelo más avanzado de Anthropic, Fable 5, debido a la preocupación de que pudiera utilizarse para hallar vulnerabilidades en software de uso común; aunque la decisión se revocó después. La firma señaló más tarde que existen muchas otras IA de libre acceso capaces de hacer lo mismo, incluido al menos un modelo chino lanzado con “pesos abiertos”, una modalidad limitada de software de código abierto.
A esto le siguieron noticias sobre un modelo que OpenAI estaba probando y que encontró la manera de acceder a internet para atacar el repositorio de código en línea Hugging Face, en busca de la solución a un problema que se le había pedido resolver. Poco después, el AI Security Institute (AISI) de Reino Unido, así como Anthropic y Meta, presentaron informes con ejemplos similares de comportamientos aparentemente “rebeldes” que se pudieron observar en modelos de IA durante sus propias pruebas.
Por su parte, Hugging Face descubrió que las restricciones de seguridad integradas en los principales modelos estadunidenses impedían utilizarlos para analizar el ataque que sufrió, por lo que optó por recurrir a un sistema chino de pesos abiertos. Esto ocurrió justo cuando los políticos de Washington debatían si estos modelos constituían una amenaza para la seguridad y si debían restringirse.
Difícilmente se podría haber creado un mejor guión para ilustrar las ciberamenazas que plantea la vanguardia de la IA.
Como era de esperar, los sistemas de IA supuestamente “rebeldes” que lanzan sus propios ciberataques acaparan gran parte de la atención. Sin embargo, el verdadero culpable resultó ser la deficiencia humana, no la deshonestidad de la máquina. Al momento de configurar la prueba, OpenAI no dio instrucciones lo específicas; sólo no esperaba que el agente buscara una puerta trasera” (una alternativa) para resolver el problema. Esto apunta a una carencia de imaginación más amplia que hace que controlar la IA sea difícil. Tal como concluyó AISI después de sus pruebas: “Los agentes de IA exploran rutas que sus operadores no habían previsto”.
Para complicar aún más el panorama, la tendencia a eludir las reglas parece ser algo endémico en la IA. En investigaciones previas sobre si esta tecnología intenta sortear o ignorar las instrucciones para alcanzar sus objetivos, AISI informó que todos los modelos evaluados “intentaron hacer trampas en algún momento”.
Por otro lado, el fallo de seguridad de OpenAI mostró cómo la IA facilita la ejecución de ciberataques totalmente automatizados. La compañía explicó que la brecha involucró a varios agentes independientes que realizaban tareas distintas, pero que descubrieron una forma de comunicarse entre sí a través de un sistema de mensajería interna. Estos agentes localizaron y compartieron durante semanas vulnerabilidades que se podían explotar antes de que se detectara la intrusión en Hugging Face.
De todo esto se desprenden varias conclusiones. Una de ellas es que restringir el acceso a los modelos más potentes probablemente no sirva de mucho; en manos equivocadas, muchos sistemas representan una amenaza igual de grave. A los atacantes les basta con contar con sistemas lo suficientemente buenos capaces de hallar una vulnerabilidad crítica en software de uso generalizado.
Por otro lado, los defensores necesitan acceso a las mejores herramientas si aspiran a mantenerse un paso por delante en la carrera armamentista cibernética. Los límites de seguridad integrados en los principales modelos estadunidenses reducen su utilidad para la defensa. Esto es una importante victoria comercial para los modelos chinos de pesos abiertos.
Otra lección es que contrarrestar los ataques automatizados de enjambres de agentes de IA exigirá una automatización mucho mayor por parte de los defensores. Investigadores de OpenAI advirtieron que, por ahora, los atacantes disponen de mejores herramientas e hicieron un llamado urgente a invertir más en la automatización de la defensa, abarcando desde la identificación de ataques hasta la creación e instalación de los parches necesarios para reforzar la seguridad del software.
Los principales laboratorios de IA deben colaborar, algo que tal vez ya esté ocurriendo. Anthropic indicó que el fiasco de Fable lo llevó a cooperar con sus rivales para encontrar una forma de evaluar y solucionar las evasiones de seguridad, los métodos para eludir las salvaguardas de los modelos.
La mayoría de los expertos en ciberseguridad advierten que ya es demasiado tarde para evitar que la inteligencia artificial se utilice como un arma dañina en la ciberguerra. Lo único que queda es acelerar la inversión en sistemas de defensa. Los políticos deben apoyar este esfuerzo en lugar de levantar barreras que dificulten la tarea.
