M+.- La notificación hizo que Camille Hanson despertara sobresaltada una noche de marzo. Sus cuentas de Facebook e Instagram, con casi un millón de seguidores y donde gestionaba con su marido un negocio de clases de inglés a hablantes no nativos, habían sido marcadas para ser eliminadas. Meta afirmó que había infringido las normas de la comunidad en materia de fraude y engaño.
“Solo soy una maestra de inglés —recuerda haber pensado Hanson de 40 años. Las acusaciones de fraude y engaño la dejaron desconcertada—. ¿Qué estoy haciendo mal?”, se preguntó.
La notificación indicaba que podía presentar una apelación, así que dio clic al botón para iniciar el proceso. Una semana más tarde, recibió otra notificación: la apelación había sido denegada.
“Toda tu información se eliminará de forma permanente —decía la respuesta de Meta—. No puedes solicitar otra revisión de esta decisión”.
Te recomendamos leer...
Es como tener “un negocio físico real y que alguien de la nada simplemente cierra tu oficina o local”, explicó el marido de Hanson, Calvin, de 42 años, en una entrevista desde su hogar en Portugal.
Lo que les ocurrió a los Hanson fue un caso de inteligencia artificial que salió mal. Esta tecnología se encarga cada vez más de decidir qué cuentas infringen las normas de contenido de Meta, al mismo tiempo que gestiona las apelaciones de dichas decisiones. Para sumar incluso más angustia a los afectados, a menudo resulta difícil para usuarios como los Hanson ponerse en contacto con alguien de la empresa para averiguar qué hacer.
Meta anunció que daría más poder a los bots de IA. Los usuarios se están organizando en línea y más de 60 mil han firmado recientemente una solicitud en la que piden a la empresa que facilite más información sobre la suspensión de cuentas y permita que sean humanos los que revisen las apelaciones. Varias comunidades de Reddit y otros sitios han recibido una avalancha de quejas de usuarios sobre la IA de la empresa.
Daniel Roberts, vocero de Meta, argumentó en contra de que la IA fuera peor que los humanos a la hora de gestionar cuentas y afirmó que las nuevas herramientas de moderación de inteligencia artificial de la empresa cometen errores 13 por ciento menos que los empleados humanos y detectan 10 por ciento más de infracciones. De las cinco cuentas que The New York Times señaló a Meta, todas habían sido bloqueadas por las antiguas herramientas de moderación de IA de la empresa, según Roberts.
“Estamos comprometidos a cometer menos errores en la aplicación de las normas, así como a ayudar a las personas a proteger sus cuentas; la IA está cumpliendo con ambos objetivos”, afirmó.
Cuando la IA falla
En mayo, unos hackers se aprovecharon del chatbot de atención al cliente de IA para atacar 34 mil cuentas de Instagram, incluida una antigua cuenta de la Casa Blanca de Barack Obama. Ese mismo mes, los empleados se rebelaron contra un programa que rastreaba sus movimientos en el teclado para entrenar a la IA; Meta suspendió la iniciativa.
La semana pasada, 26 antiguos empleados de Meta afirmaron en una demanda que la empresa los había despedido utilizando un algoritmo de IA que los seleccionaba por tener discapacidades. Un portavoz de Meta señaló que “la gestión de la fuerza laboral y las decisiones organizativas estaban y siguen a cargo de humanos, no de la IA”.
People Over Platforms, un grupo de defensa de los usuarios que ofrece servicios de recuperación de cuentas, creó este año una petición en línea para obligar a Meta a cambiar sus políticas de moderación de cuentas.
La respuesta de la empresa fue acusar a muchos de los firmantes de compartir material de explotación infantil —una acusación que, según los usuarios, era como echar sal en la herida— y después, bloqueó sus cuentas.
El año pasado, esa fue la acusación que Meta formuló contra Athenia Rodney, propietaria de JuneteenthNY, un grupo que conmemora el fin de la esclavitud en Estados Unidos, cuando la empresa bloqueó todas sus cuentas personales y profesionales en Facebook e Instagram.
“Nuestra tecnología ha detectado que tu cuenta, o la actividad en ella, no cumple con nuestras normas —decía el aviso de Meta—. Como resultado, nuestra tecnología ha tomado medidas”.
Rodney afirmó que no entendía el razonamiento de Meta, ya que el contenido de su grupo es “apto para toda la familia”. Tras el bloqueo de sus cuentas, revisó minuciosamente los archivos fotográficos de JuneteenthNY en busca de posibles publicaciones que pudieran haber activado los bots de IA, pero no encontró nada.
Entonces, Rodney recordó que poco antes de que cancelaran sus cuentas, la empresa le había alertado de inicios de sesión sospechosos desde Seattle y Singapur, a pesar de que ella vive en Atlanta. Era una señal de que habían hackeado sus cuentas. Bloquearon seis de sus cuentas de Instagram y Facebook, personales y de diferentes negocios.
Para recuperar esas cuentas, Rodney explicó que había enviado documentos de identificación; presentado reclamaciones ante el Better Business Bureau y la Comisión Federal de Comercio; se había puesto en contacto con las oficinas estatales de protección al consumidor y había enviado mensajes a empleados de Meta a través de LinkedIn. Nada funcionó.
Desde entonces, JuneteenthNY ha tenido que convencer a los patrocinadores de que es una organización legítima que lleva casi dos décadas en activo.
“Nuestros patrocinadores visitan nuestra página en las redes sociales para confirmar que somos una organización legítima, que llevamos 17 años haciendo esto —explicó Rodney—. Así que ahora, cuando van a nuestra cuenta y ven que solo tenemos 500 seguidores, piensan: ‘No han estado haciendo esto, son unos estafadores’”.
Después de que el Times señalara las cinco cuentas bloqueadas a Meta, la empresa afirmó que había investigado y descubierto que dos eran fruto de ataques informáticos y que una se debía a una razón legítima. Las cuentas hackeadas se bloquearon con razón porque los hackers infringieron las políticas de seguridad infantil, según Meta.
A continuación, Meta restableció las dos cuentas hackeadas, incluida la cuenta JuneteenthNY de Rodney. Dos de las cinco cuentas señaladas habían sido bloqueadas por error, incluida la de los Hanson, según la empresa.
Roberto Suárez, un influencer de Instagram que había conseguido más de 500 mil seguidores antes de que le bloquearan la cuenta este año, fue uno de los que recibió un correo electrónico de Meta en el que se le informaba que su cuenta había sido restablecida, junto con sus fotos, seguidores, mensajes y más. Empezó a publicar contenido de nuevo para sus seguidores, que llevaban meses sin saber nada de él.
Unas semanas más tarde, Meta le envió otro correo electrónico: “Tu cuenta ha sido suspendida —decía, alegando que había infringido las leyes de derechos de autor con su contenido—. Si no tomas medidas, tu cuenta quedará desactivada de forma permanente”.
Suárez negó haber infringido ningún derecho de autor. Poco después de que el Times le preguntara por la nueva suspensión, su cuenta quedó restablecida.
Hanson también recibió un correo electrónico de Meta en el que se le informaba que su cuenta había sido restablecida:
“Hemos revisado tu cuenta y hemos constatado que la actividad en ella cumple con nuestras normas comunitarias sobre fraude y engaño, así que puedes volver a usar Instagram. Lamentamos haber cometido este error”.
Te recomendamos leer...
HCM
