M+.- Amigos, esta será mi última columna en The New York Times. Me voy en busca de nuevas aventuras, entre ellas publicar un libro sobre la carrera por crear inteligencia artificial general y lanzar un nuevo pódcast con mi copresentador de ‘Hard Fork’, Casey Newton.
Ha sido un honor pasar los últimos nueve años como columnista de tecnología. Probamos todo tipo de dispositivos, se vendieron tokens no fungibles y me dejé seducir por chatbots desquiciados en nombre del periodismo.
Antes de irme, mi editor me invitó a compartir algunas reflexiones de despedida sobre el momento que atraviesa la inteligencia artificial, así que pensé en ofrecer una breve y honesta reflexión sobre cómo me siento con respecto a la IA en estos días y cómo el trabajo periodístico que he llevado a cabo desde adentro de la burbuja tecnológica de San Francisco me ha dejado esperanzado y, al mismo tiempo, asustado por nuestro futuro colectivo.
Primero, la parte esperanzadora. En los últimos días me ha sorprendido y animado la forma en que las conversaciones sobre los riesgos de la IA han pasado a ocupar un lugar central. Este mes, la renuncia que se hizo viral de un joven empleado de Anthropic, Jacob Coxon, logró lo que años de ensayos de opinión de preocupación y cumbres no habían logrado: centrar la atención del mundo en los peligros potencialmente extremos que plantea esta tecnología.
El fondo del mensaje de Coxon no era nada que los expertos no hubieran estado diciendo desde hace años, pero el momento en que lo hizo —unos días después de nuevas revelaciones sobre el hackeo autónomo de Hugging Face por parte de un enjambre de agentes de OpenAI, en un momento de creciente preocupación por los riesgos de la IA en general— ayudó a que el mensaje llegara más allá de la burbuja.
Aún más alentadora fue la respuesta al llamado público que hizo este mes Dario Amodei, director ejecutivo de Anthropic, para que se frenara a nivel mundial el desarrollo de la IA. Fue una medida que muchos investigadores del tema me habían comentado en privado y consideraban necesaria para evitar una catástrofe, pero que pocos se habían atrevido a promover públicamente.
Sam Altman, Elon Musk, Demis Hassabis y otros destacados líderes del campo hicieron eco rápidamente de las preocupaciones de Amodei y de algunas de sus recomendaciones, como el llamado a incorporar “evaluadores integrados” dentro de las principales empresas de IA para monitorear los sistemas en busca de comportamientos peligrosos.
Por lo regular, estos hombres son rivales acérrimos; sin embargo, los recientes y rápidos avances en las capacidades de la IA y la preocupación compartida de que sistemas rebeldes tomen el control de la infraestructura crítica parecen haberlos unido por una causa en común. Ese tipo de cooperación intersectorial será fundamental en los próximos meses y años, y fue positivo ver que se materializó tan rápido.
Inevitables teorías de conspiración
No, esto no es una operación psicológica coordinada, ni un plan de toda la industria para lograr la captura regulatoria. Muchas de estas figuras llevan años advirtiendo sobre la amenaza existencial de la IA, mucho antes de que tuvieran productos que vender y empresas que dirigir. La noticia es simplemente que ahora sí se les está prestando atención, después de años de haber sido tachados como alarmistas que gritan “¡Ya viene el fin del mundo!”.
Al igual que Amodei y Altman, hace años que me preocupa el ritmo del avance de la IA. Hasta hace poco, parecía que hacer algo concreto para frenar la carrera era algo casi imposible. Sin embargo, la avalancha de llamados, tanto de líderes del sector como de empleados de base, a favor de una pausa global y coordinada en el desarrollo de la IA durante la semana pasada me ha hecho reconsiderar mi pesimismo.
Quizás nos encontremos en el estrecho camino hacia la utopía de la IA, uno en el que los políticos responsables y el público estén lo suficientemente alarmados por los riesgos de construir estos sistemas como para establecer algunas barreras de seguridad basadas en el sentido común, y los líderes estén temporalmente convencidos de anteponer los mejores intereses de la humanidad a sus propias ganancias.
En ese mundo, una pausa coordinada podría darnos tiempo para comprender y gestionar los riesgos más graves, mientras seguimos impulsando aplicaciones más específicas en campos como la medicina y la ciencia, donde básicamente todos están de acuerdo en que debemos avanzar lo más rápido posible.
Por supuesto, hablar de los riesgos de la IA es sólo una pequeña parte de la batalla. Una parte mucho más importante es hacer algo al respecto y aquí es donde soy más pesimista; siento que mi indicador interno de catástrofe se inclina hacia un número más alto.
Ya estamos viendo cómo la conversación entre los líderes de la IA se polariza siguiendo líneas predecibles. Tras el llamado de Amodei a “moderar el avance en la frontera”, otros ejecutivos, entre ellos Jensen Huang de Nvidia, se apresuraron a tranquilizar a un público asustado, asegurando que no había nada de qué preocuparse, que todo ese discurso apocalíptico era una tontería sin fundamento científico y que la industria estadunidense de la IA debería acelerar el paso en lugar de desacelerarlo.
El presidente Donald Trump pareció ponerse del lado de las aceleracioncitas, descartando los temores de que la IA tomara el control como un “engaño” y publicando en las redes sociales que “el único control o “barreras de seguridad” que necesita la IA es un “presidente fuerte e inteligente (¡con un alto coeficiente intelectual!)”.
Dado el desdén de sus asesores hacia los que vaticinan el apocalipsis de la IA, dudo que Trump negocie algún tipo de pacto de seguridad con China, o que haga mucho para evitar que la IA avance a una velocidad vertiginosa. También dudo que el Congreso —que tiene un historial desastroso en la regulación de nuevas tecnologías— esté a la altura de las circunstancias.
Incluso hoy en día, muchos legisladores ven a la IA a través del estrecho prisma de otros temas polarizados por el partidismo, como la desigualdad económica o la codicia corporativa. Ampliar las preocupaciones para incluir el riesgo de extinción no es imposible, pero requiere pasar de los debates habituales sobre quién se beneficia de la tecnología a la pregunta más incómoda de si los humanos seguirán teniendo el control sobre ella.
Te recomendamos
Aun así, al igual que cierto expresidente, me da esperanza que estas conversaciones se estén llevando a cabo. Durante años, la IA ha sido desarrollada por un pequeño grupo de personas con ideas afines —en su mayoría investigadores en San Francisco y Londres—; y a quienes no forman parte de ese círculo se les ha excluido en gran medida de las conversaciones más importantes sobre la trayectoria y su impacto.
He entrevistado a cientos de investigadores y ejecutivos del campo durante la última década y en su mayoría se han mostrado reflexivos y decentes. No están avanzando sin tomar en cuenta las consecuencias de sus acciones, como lo hicieron los ejecutivos de las redes sociales en la década de 2010, o como lo hicieron los ejecutivos de la industria del tabaco en el siglo XX.
Muchos de ellos temen genuinamente que la tecnología que están desarrollando pueda poner en peligro o restar poder a la humanidad y han optado por desarrollarla de cualquier forma porque consideran que es inevitable y porque las alternativas —dejar que China, Corea del Norte o los sinvergüenzas del laboratorio de IA de la esquina la desarrollen primero— parecen peores.
Aun así, los expertos en IA son un grupo aislado e imperfecto y no deberían tener la última palabra sobre el destino de la humanidad, del mismo modo que los ejecutivos de las cadenas de comida rápida no deberían elegir los estándares nutricionales globales, ni los ejecutivos de las aerolíneas deberían diseñar los protocolos de seguridad de la industria.
Si la IA va a funcionar —y sigo teniendo la esperanza de que así sea—, tendrá que ser un esfuerzo colectivo. Necesitamos que más filósofos, científicos y artistas aporten su opinión sobre las decisiones espinosas y las disyuntivas que enfrentamos a medida que se vuelve más poderosa.
Necesitamos que personas de todos los ámbitos de la vida se comprometan con la alineación de la IA —la cuestión técnica sin resolver de cómo crear sistemas que actúen de manera confiable, de acuerdo con los valores humanos— tanto como lo hacen los equipos de OpenAI y Anthropic, y necesitamos que esas empresas desaceleren el ritmo e inviertan más agresivamente en investigación sobre seguridad.
Conceptos arcanos como la superación recursiva deben explicarse a personas sin conocimientos técnicos de manera que queden claros los riesgos y los funcionarios electos deben dejar a un lado las diferencias partidistas, informarse sobre los riesgos de la IA y ponerse a trabajar en un enfoque regulatorio que pueda minimizar la posibilidad de una catástrofe.
Una estrategia que podría funcionar se detalla en el Plan A, un escenario ficticio de un futuro positivo escrito por el AI Futures Project.
No será nada fácil; pero tal vez tengamos una breve ventana de oportunidad en la que la gente realmente está poniendo atención y al menos es posible imaginar que la inteligencia artificial irá por buen camino. Aprovechémosla al máximo.
Te recomendamos
CQ
