En 2006, Clive Humby, un pionero científico de datos dijo que “los datos son el nuevo petróleo”. Después Michael Palmer, experto en tecnologías emergentes, amplió la metáfora diciendo que “los datos son valiosos, pero si no están refinados, en realidad no se pueden usar”. Sin embargo, todo indica que la metáfora quedó ampliamente rebasada si se piensa en la consolidada mancuerna entre datos y tecnología para generar información. Hace muy poco hablar de Inteligencia Artificial (IA) era para algunos hablar de riesgos en la obtención y aprovechamiento de datos personales con fines ajenos a sus dueños. Hoy, esa IA tiene la capacidad de suplantar la identidad de una persona a partir de aplicaciones que están al alcance de casi todo mundo.
Según un estudio de la empresa de investigación y desarrollo de IA Anthropic, a muchas personas les interesa más que la IA responda lo que quieren escuchar aunque no sea verdad. Esta semana se difundió un audio con la supuesta voz del jefe de gobierno de la CdMx que le vincula con una pugna por la candidatura a las elecciones de 2024. La autoridad declaró inmediatamente que es falso y que fue elaborado con IA. Hay ejemplos más cotidianos, aunque menos visibles, como la creación de audios con la voz de alguna persona que le generan repercusiones financieras, de las que se entera hasta que le llega a su domicilio algún requerimiento bancario. En ambos casos el daño está hecho, pero no queda ahí, ya que la información que fue utilizada para crear esos audios, también corre el riesgo de ser aprovechada en las bases de datos con las que se entrenan mecanismos de IA. Esto puede contribuir a la continuidad en la difusión de información falsa.Y al final, ¿cuál es la consecuencia de todo esto? El riesgo de erosionar la gobernanza, la democracia, la estructura social, la legitimidad de instituciones públicas y privadas.
El reto no es menor y para dimensionarlo, sirva mencionar que hace un par de días el gobierno de EE.UU. publicó nueva normatividad para regular la operación de la IA. Entre sus principales objetivos están exigir a sus creadores los resultados de las pruebas de seguridad e información delicada con el gobierno; herramientas y pruebas para garantizar la seguridad y fiabilidad de la IA; la protección contra el fraude y el engaño mediante IA; mejorar condiciones de equidad y derechos civiles en relación con la IA y su impacto en rubros que afectan el día a día de la ciudadanía como el derecho laboral y de los consumidores. ¿Será que México tome algún día muy en serio la regulación de IA? no para limitar su desarrollo, sí para garantizar libre expresión, estado de derecho, privacidad y protección de datos personales, seguridad cibernética, gobernanza y la democracia misma.
