El debate respecto a las amenazas que podría representar el desarrollo ininterrumpido de la inteligencia artificial (IA) ha alcanzado dimensiones globales. Luego de que varios líderes de la industria reconocieran los riesgos potenciales, la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) pidió a los Estados que intervengan en la regulación de estas tecnologías.
Volker Türk, titular de dicho organismo, advirtió que los perjuicios relacionados con la IA no son sólo conjeturas, sino que se han manifestado en tiempos recientes a través de la explotación masiva de datos personales, campañas de desinformación y automatización de servicios esenciales en detrimento de las poblaciones marginadas.
Te recomendamos...
Específicamente, Türk externó su preocupación respecto a la IA "agéntica", que es como se le ha denominado a los sistemas capaces de actuar de forma autónoma, bajo poca o nula supervisión, para alcanzar determinados objetivos.
Pero, ¿qué se sabe de la IA agéntica y por qué podría atentar contra los derechos humanos? En MILENIO te contamos.
¿Qué es la IA agéntica?
A diferencia de los modelos más tradicionales de IA generativa, que producen contenidos o analizan datos a través de instrucciones concretas, la IA agéntica está diseñada como un sistema de aprendizaje automático que imita el proceso humano de toma de decisiones para la resolución de problemas.
De acuerdo con información de la empresa International Business Machines (IBM), los sistemas de IA agéntica pueden mantener objetivos a largo plazo, gestionar y tareas con mínima supervisión humana.
En contraste con otros modelos de lenguaje, la IA agéntica tiene la capacidad de interactuar con bases de datos externas, así como de establecer sistemas para monitorear y obtener nuevos datos en tiempo real, los cuales utiliza para tomar decisiones y realizar tareas.
Dicho de otra forma, el margen de acción de la IA agéntica no está limitado por la información contenida en los conjuntos de datos que se utilizan para entrenar a los modelos.
Un artículo difundido por la Escuela de Administración y Dirección de Empresas Sloan del Instituto Tecnológico de Massachusetts (MIT) explica que, con el acceso a ciertas interfaces y datos, un sistema de IA agéntica podría ser capaz de planear unas vacaciones a partir de la información ofrecida por el usuario, desde la evaluación de los hospedajes hasta los pagos correspondientes, sin necesidad de mayor intervención humana.
¿Por qué la IA agéntica podría amenazar a los derechos humanos, según la ONU?
Aunque la automatización de procesos complejos suele ser considerada como una de las principales virtudes de la IA agéntica, ACNUDH alertó que cualquier fallo en estos sistemas podría paralizar servicios esenciales, interrumpir comunicaciones y desestabilizar infraestructuras clave.
"Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros", sostuvo Türk en un mensaje dirigido a los gobiernos nacionales y las empresas tecnológicas.
We are at a watershed moment for AI. The calls by three leading tech companies to slow AI development should set all alarm bells ringing.
— Volker Türk (@volker_turk) September 14, 2026
My call to governments and tech companies: https://t.co/1DEfQaaFFS pic.twitter.com/1JjVhv7hnO
En este mismo tenor, Türk lamentó que la automatización de servicios esenciales se traduzca en un mayor rezago de las poblaciones marginadas, mientras que el desarrollo de potentes herramientas de vigilancia "está erosionando la privacidad a gran escala, posiblemente de forma irreversible".
Otro efecto visible de estas tecnologías, acorde con el titular de ACNUDH, es la existencia de campañas de desinformación que han distorsionado el debate público, socavado la cohesión social y puesto a prueba "a las instituciones democráticas de formas maliciosas".
Ante este escenario, Volker Türk hizo un llamado a la cooperación entre gobiernos y empresas a nivel internacional para regular el desarrollo de la IA y, de esta manera, evitar vulneraciones a los derechos humanos.
"Ningún país puede regular esta tecnología por sí solo. Ninguna empresa debería poder decidir por sí misma qué riesgos debe aceptar el mundo. A nadie se le debería exigir que renuncie a sus derechos humanos a cambio de lo que se presenta como progreso tecnológico", aseveró Türk.
BM.
