La inteligencia artificial avanza a tal velocidad que una de las empresas más importantes del sector ya está planteando una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿qué ocurrirá cuando una IA sea capaz de crear una versión más avanzada de sí misma?
Esa es la advertencia que lanzó Anthropic, la compañía detrás del asistente Claude, al asegurar que en los próximos años podría ser posible que sistemas de inteligencia artificial diseñen y desarrollen a sus propios sucesores de manera completamente autónoma.
Te recomendamos
La empresa explicó que este escenario, conocido como “automejora recursiva”, implicaría que una IA no solo realice tareas o genere contenido, sino que también participe en la creación de nuevas generaciones de sistemas cada vez más capaces.
Según Anthropic, esta posibilidad podría traer beneficios importantes para áreas como la ciencia, la medicina o la investigación, pero también plantea interrogantes sobre la capacidad de los seres humanos para supervisar y controlar tecnologías cada vez más avanzadas.
¿Por qué Anthropic pide una pausa a la inteligencia artificial?
La compañía considera que el desarrollo de la inteligencia artificial podría avanzar más rápido que la capacidad de gobiernos, investigadores e instituciones para comprender y gestionar sus consecuencias.
Por ello, propuso que el mundo tenga la posibilidad de establecer una pausa temporal en el desarrollo de los sistemas de IA más avanzados si se alcanzan ciertos niveles de riesgo.
Anthropic sostiene que una medida de este tipo tendría que aplicarse de forma coordinada entre los principales laboratorios tecnológicos para evitar que algún actor continúe desarrollando modelos mientras otros se detienen.
La preocupación no surge únicamente de escenarios futuros. La empresa reveló que actualmente más del 80 por ciento del código que incorpora a su base de desarrollo ya es generado por Claude. Hace poco más de un año, esa cifra era inferior al 10 por ciento.
Para Anthropic, este crecimiento muestra la rapidez con la que las herramientas de inteligencia artificial están adquiriendo capacidades cada vez más sofisticadas y explica por qué considera necesario debatir desde ahora los límites, controles y mecanismos de seguridad que podrían requerirse en los próximos años.
Aunque la empresa reconoce que la automejora recursiva no es inevitable, también advierte que podría llegar antes de que muchas instituciones estén preparadas para enfrentar sus implicaciones.
JCM
