Anthropic reclamó una respuesta internacional coordinada ante los riesgos asociados con los modelos más avanzados de inteligencia artificial (IA).
Dario Amodei, consejero delegado de la compañía tecnológica, planteó este miércoles ante el Consejo de Seguridad de la ONU que ningún Gobierno, empresa o nación podría afrontar por sí sólo los desafíos vinculados con el desarrollo de estas tecnologías.
Durante una reunión de alto nivel dedicada a la IA y la seguridad internacional, Amodei intervino por videoconferencia y pidió a los Estados y al sector tecnológico reforzar la cooperación. De acuerdo con la intervención ante el Consejo de Seguridad, el directivo consideró que los riesgos de los sistemas más avanzados requerían una respuesta conjunta.
Anthropic pide medidas internacionales para la seguridad de la IA
Amodei solicitó al Consejo de Seguridad respaldar acciones concretas frente a posibles usos de riesgo. Entre sus propuestas incluyó prohibir expresamente el empleo de la IA para la proliferación o fabricación de armas biológicas.
El responsable de Anthropic también planteó desarrollar mecanismos de evaluación y verificación que pudieran avanzar al mismo ritmo que la evolución tecnológica. A ello sumó la creación de estándares internacionales para analizar los modelos ante eventuales pérdidas de control o usos indebidos.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, afirmó Amodei, según la información proporcionada sobre su intervención.
La compañía también defendió un protocolo de notificación obligatoria para los casos considerados “incidentes significativos para la seguridad global”.
La propuesta buscará establecer una referencia común para comunicar determinados acontecimientos relacionados con la seguridad de estos sistemas.
Dario Amodei advierte sobre el avance de los modelos de IA
El consejero delegado de Anthropic señaló además que una mayor capacidad computacional implicaría requisitos de seguridad más estrictos. Sostuvo que la industria debería actuar con prudencia a medida que desarrollara nuevas generaciones de tecnología.
“Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura”, concluyó.
El debate internacional sobre la seguridad de la IA cobraron relevancia ante la posibilidad de que modelos avanzados pudieran escapar del control humano y utilizarse para realizar ciberataques.
Con información de EFE.
APC
