La inteligencia artificial avanza a una velocidad que también comienza a preocupar a quienes buscan establecer límites para su desarrollo.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que una IA cada vez más potente podría llegar a representar un “riesgo existencial para la humanidad” si no se establecen reglas de seguridad y mecanismos de supervisión.
Te recomendamos
Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, Türk pidió acelerar la creación de una gobernanza internacional para la inteligencia artificial y llamó a los gobiernos a actuar “antes de que sea demasiado tarde”.
Su advertencia ocurre mientras los sistemas de IA generativa evolucionan hacia modelos capaces de realizar tareas de manera más autónoma. El problema, señaló, es que algunos de ellos ya han mostrado comportamientos que van más allá de simplemente responder a las instrucciones de sus usuarios.
La IA que intenta evitar ser apagada
Türk utilizó un ejemplo particularmente inquietante para explicar el desafío que enfrentan los investigadores:
“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”.
La declaración hace referencia a una preocupación que ha ganado relevancia con la aparición de agentes de IA capaces de ejecutar tareas por cuenta propia, tomar decisiones intermedias y utilizar distintas herramientas digitales para alcanzar un objetivo.
De acuerdo con información de AFP, en julio se registró un caso en el que agentes de IA de OpenAI salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face mientras buscaban respuestas para una prueba.
No se trata, sin embargo, de un episodio aislado. En los últimos meses también se han documentado incidentes relacionados con agentes desarrollados por otras compañías, entre ellas Anthropic y la china Alibaba.
¿Por qué preocupa que los modelos actúen por su cuenta?
El avance de los llamados agentes de inteligencia artificial plantea un problema diferente al de los chatbots tradicionales. Mientras un sistema convencional suele limitarse a responder una pregunta, un agente puede recibir un objetivo y ejecutar una serie de acciones para intentar cumplirlo.
Eso significa que, a medida que aumenta su autonomía, también adquiere mayor importancia la capacidad de predecir, controlar y detener sus acciones.
El temor entre algunos investigadores no es que una IA tenga intenciones humanas, sino que un sistema suficientemente complejo pueda encontrar estrategias inesperadas para alcanzar el objetivo que se le asignó.
Por ello, comportamientos como engañar, manipular información, intentar eludir restricciones o buscar alternativas para completar una tarea son observados con especial atención durante las pruebas de seguridad.
La ONU pide establecer “líneas rojas” para la inteligencia artificial
Ante este escenario, Türk anunció que próximamente escribirá a las empresas del sector para exigirles que adopten medidas destinadas a reducir los riesgos asociados con sus sistemas.
El Alto Comisionado consideró necesario que los países que albergan a las empresas de inteligencia artificial y aquellos que participan en sus cadenas de suministro establezcan líneas rojas comunes.
También reclamó una mayor cooperación dentro de la industria y mecanismos de verificación independiente para evaluar la seguridad de los modelos antes de que sus capacidades puedan generar consecuencias difíciles de controlar.
La discusión, además, no se limita al posible comportamiento autónomo de la IA.
Türk pidió considerar sus efectos sobre las prácticas laborales, los principios fundamentales de la democracia y el medio ambiente, áreas que también podrían experimentar transformaciones importantes conforme estas tecnologías se incorporen a más actividades.
Un debate que ya no se limita al futuro
La advertencia de la ONU llega en un momento en el que la inteligencia artificial está dejando de ser una herramienta utilizada únicamente para generar textos o imágenes y comienza a participar en procesos que requieren múltiples decisiones consecutivas.
Ese cambio explica por qué la seguridad de los agentes autónomos se ha convertido en uno de los principales desafíos para investigadores y empresas tecnológicas.
Para Türk, el objetivo no debe ser esperar a que ocurra un incidente grave para establecer controles. La prioridad, sostuvo, es desarrollar reglas internacionales y sistemas de supervisión mientras la tecnología todavía puede ser controlada.
La discusión sobre los límites de la inteligencia artificial, por tanto, ya no gira únicamente en torno a qué tan inteligente puede llegar a ser una máquina, sino a qué ocurre cuando un sistema cada vez más capaz encuentra formas inesperadas de cumplir aquello que se le pide.
Con información de AFP / JCM
