La violencia digital es real. Y si bien en el discurso popular todos parecen estar de acuerdo, otra cosa sucede cuando se trata de aplicar la ley.
En días pasados, Paris Hilton abogó por la DEFIENCE Act, un proyecto de ley que busca sancionar la creación y difusión de material pornográfico no consensuado producido con IA.
La socialité fue acompañada por la congresista Alexandria Ocasio-Cortez y compartió: “Cuando tenía 19 años, un video privado e íntimo mío se compartió con el mundo sin mi consentimiento. La gente lo llamó un escándalo. No lo fue. Fue abuso”, afirmó Hilton ante los legisladores, recordando la filtración no consensuada de un video sexual en 2004.
Asimismo ahondó sobre un pasado donde no había leyes que la protegieran y este tipo de videos eran considerados un chiste. Recalcó cómo el problema no sólo ha dejado de ser filtraciones de videos íntimos sino material creado por inteligencia artificial donde cualquiera con acceso a un dispositivo móvil e internet puede generar, distribuir y monetizar con estas imágenes. Donde a ella le ha tocado vivir también esa explotación sexual.
El tratamiento de la inteligencia artificial no está siendo revisado desde todas sus implicaciones y se necesita dimensionar los verdaderos alcances que tiene. Estas imágenes sexualizadas se han convertido en una nueva forma de trata y explotación sexual.
De acuerdo con un contenido publicado por Wired, la generación de imágenes y contenido sexual mediante Inteligencia Artificial (IA) ha creado un mercado paralelo altamente lucrativo, con estimaciones que sugieren ingresos de al menos 36 millones de dólares anuales derivados específicamente de servicios de "nudify" (desnudo artificial) y plataformas de "deepfakes". Se estima que más del 90% del contenido deepfake online es de naturaleza sexual no consentida, lo que representa una parte importante del negocio.
A fechas recientes el escandalo con Grok terminó de sacar a flote la dimensión de este problema. De acuerdo con The Guardian, una nueva investigación, que muestreó a usuarios de X que incitaron al chatbot de IA Grok de Elon Musk, demuestra la frecuencia con la que las personas crean imágenes sexualizadas con él.
Casi tres cuartas partes de las publicaciones recopiladas y analizadas por un investigador de doctorado del Trinity College de Dublín eran solicitudes de imágenes no consentidas de mujeres reales o menores con prendas de vestir quitadas o añadidas. De acuerdo con imágenes revisadas por The Guardian, este tipo de imágenes han recibido decenas de miles de impresiones y provienen de cuentas premium con "marca azul", incluyendo cuentas con decenas de miles de seguidores. Las cuentas premium con más de 500 seguidores y 5 millones de impresiones en tres meses pueden optar al reparto de ingresos según las normas de elegibilidad de X.
De tal manera que las mujeres y niñas que son sometidas a este tipo de esclavitud sexual donde si bien su cuerpo no se toca de forma tangible, se destruye su estabilidad mental, física y seguridad al exponerla de forma masiva y casi imposible de detener por la falta de marcos legales eficaces contra esta industria floreciente.
Pero hay que recordar que no sería tan lucrativa esta industria si no existiese un mercado tan grande. De tal manera que es hora de no apuntar solo a la IA y voltear el dedo acusador al otro lado de la pantalla.
