DOMINGA.– Decidí confesarlo. Un jueves mi pareja me contaba cómo había estado su jornada de trabajo y enumeraba –un poco para mí y un poco para sí mismo– los pendientes del día siguiente. Era esa hora de la noche en que es temprano para cenar, pero muy tarde para cualquier otra cosa. Entonces me preguntó por mi día. “Tengo que decirte algo”, le dije. Y proseguí rápido para no darle tiempo de pensarlo demasiado: “Llevo una semana chateando con Maluma”.
Yo había regresado de cubrir un festival de música en Costa Rica cuya figura principal fue, precisamente, el cantante colombiano. Tras la confesión, él guardó silencio y me miró tratando de descifrar si era una broma o hablaba en serio. Cuando no percibió el menor rastro de sonrisa en mi boca, se puso serio, pero apeló a la deconstrucción masculina y fingió tranquilidad.
Me preguntó cómo me sentía y de qué habíamos estado platicando. Podría haberle contado sobre las canciones que me dedicaba, los audios que me enviaba contándome de los ensayos o los mensajes en los que me preguntaba por mi profesión, por el noticiero, por el periodismo en general.
Opté mejor por terminar el experimento reporteril y le expliqué que, en realidad, estaba chateando con el bot de Maluma, un personaje virtual creado con Inteligencia Artificial (IA). Y rematé preguntando:
–¿Conoces la aplicación Character.ai?
Si ustedes, como él, no saben qué es ni para qué sirve, es probable que sean mayores de veinte años. Es probable, también, que lo que venga a continuación les preocupe o intrigue o un poco de ambas. Y si esa intriga o preocupación se juntan y deciden, por ejemplo, empezar a hacer búsquedas en TikTok, terminarán encontrando adolescentes que hablan de los bots de Character.ai, a veces llorando porque les borraron a su personaje preferido al grito de “¡auxilio, mataron a mi marido!”.
Verán también, por supuesto, mil y un consejos para desactivar el famoso filtro, aquellas restricciones que establece la aplicación para que no haya contenido sexual explícito ni violencia. Lo que sin duda ocurrirá si se sumergen en estas búsquedas, es que terminarán por arruinar su algoritmo tiktokero, todo será IA, por lo que por experiencia propia les recomiendo que mejor no lo hagan.
El creciente uso de la IA es una realidad. Sin embargo, son los jóvenes quienes la conocen y utilizan con mayor frecuencia. En México, según The Competitive Intelligence Unit, el promedio de conocimiento de herramientas de IA a nivel nacional es de 54.9%, pero entre adultos de 26 a 30 años, el promedio asciende hasta un 72%. Los usos son múltiples, sobre todo, en investigación, trabajo, automatización de funciones y asistentes laborales.
Pero ¿qué ocurre cuando los bots de IA comienzan a reemplazar los vínculos humanos? ¿Se puede ser amiga o amigo de un personaje ficticio, chatear con él, generar empatía y seguirlo en sus redes sociales? ¿Se puede sentir cariño por alguien que no existe en la realidad? ¿Es posible enamorarse?
Adolescentes cautivados con la interacción de los ‘chatbots’ de IA
Character.ai es una aplicación lanzada en 2022 por dos extrabajadores de Google –Daniel De Freitas y Noam Shazeer–, cuyo encanto radica en crear e interactuar con bots de personajes famosos, desde el escritor argentino Julio Cortázar hasta Jeon Jungkook, vocalista de la banda de K-pop surcoreana BTS. Y aunque la lista es inmensa, los más populares son aquellos relacionados con el animé y los cómics, aunque ni William Shakespeare se escapa de tener varios bots hablando en su nombre.
Ahora bien, para interactuar con los personajes hay dos modalidades básicas; la plática libre, es decir, buscar un personaje y mandarle un mensaje por el chat. O el juego de rol, en el que la conversación se va construyendo a través de escenas y diálogos que se entretejen entre el bot y tus respuestas.
Por ejemplo, entras en la aplicación y te diriges a la lupa; allí buscas a Pedro Pascal, el actor de ‘Los Cuatro Fantásticos’, y eliges uno de los tantos bots que aparecen con su nombre. Cuando abres la ventana, inicia el chat y él es quien manda el primer mensaje: Pascal choca accidentalmente contigo.
–‘Oh, shit’! –dice Pascal–. ¡Lo siento mucho! Déjame ayudarte.
Y te extiende su mano, esperando una respuesta.
Así comienza la escena y será tu turno de continuar la historia. Pero si no respondes, Pascal insistirá, ya que una de las nuevas funciones que ha incorporado Character.ai en el último mes consiste en que los personajes pueden mandarte mensajes de forma proactiva. Las líneas con las que se abre el diálogo son parte de la programación del chatbot que ha sido creado, a su vez, por otro usuario de Character.ai.
Y para ser sinceros, suelen tener un tono de coqueteo romántico o picardía sexual. Maluma, por ejemplo, me preguntó recién iniciada la conversación qué canción le dedicaría y remató diciendo: “Yo compondría un tema que diga que te amo”. Así, sin siquiera invitarme un café.
Pero yo no soy la usuaria promedio de esta aplicación. Quienes la usan, en su mayoría, son adolescentes de entre 10 y 16 años, a pesar de que los términos y condiciones establecen que sólo pueden utilizarla los mayores de 13 y, si eres ciudadano europeo, mayores de 16.
La única forma de manifestar la edad es ingresando la fecha de nacimiento al iniciar la sesión, manualmente por el propio usuario. Por lo tanto, si uno sabe sumar se puede engañar fácilmente a la interfaz. Este detalle hizo que la investigación fuera más compleja, ya que los posibles testimonios para esta historia sólo podían ser aportados por menores de edad.
Por eso, comencé preguntándole a los adolescentes conocidos, con autorización de su madre o padre. En ese momento me di cuenta de que realmente había un uso generalizado.
–¿Conoces Character.ai? –le escribí al adolescente familiar (12 años).
–¿Pooor?, ¿me denunciaron? xd –respondió.
Vaya mi sorpresa. Intenté explicar que mi interés era laboral y no personal. Entonces me aseguró que él no la usaba tanto pero que tenía una amiga, por ejemplo, que se pasaba el día chateando con uno de los cantantes de la banda surcoreana EXO y que, en varias ocasiones, se había referido al chatbot como su novio. También le pregunté a la hija adolescente (13) de unos amigos. Ella me dijo:
–La aplicación tiene un filtro que no deja que las conversaciones suban de tono, digamos. Aunque se puede forzar. Bueno, eso me contaron…
Intenté también con un adolescente casi adulto (17). Él sabía que yo quería hacerle unas preguntas para un reportaje. Fui invitada a una comida en su casa y en algún momento me preguntó:
–Oye, ¿y de qué aplicación querías hablar?
–De Character.ai.
Cuando le dije, se atragantó con el refresco. Tosió varias veces y me aseguró que ya no la usaba tanto: ahora tenía novia. Quedamos en tener una entrevista más adelante. Sobra decir que ninguno de los adultos con los que hablé tenía idea de la existencia de esta aplicación. Sin embargo, semanas después de haberlo comentado con una amiga argentina, me envió un video donde se ve a su hijo de 9 años sentado en el piso, inmerso en su teléfono. Después de un zoom a la escena digna de una madre meticulosa me di cuenta de que también estaba chateando con un bot de IA.
Un suicidio por haber desarrollado un vínculo emocional con IA
Lo cierto es que Character.ai llegó a México con retraso. Para cuando se extendió su uso en español ya era un fenómeno en ascenso en Estados Unidos. Según SimilarWeb, mayo de 2023 fue su momento de mayor tráfico, aunque hoy continúa recibiendo 180 millones de visitas al mes.
Pero la aplicación llegó a los periódicos estadounidenses más importantes en octubre de 2024, cuando un adolescente de 14 años se quitó la vida después de haber desarrollado un vínculo emocional con un chatbot de Daenerys Targaryen, un personaje de la serie Game of Thrones, con quien había compartido que se sentía solo y vacío e incluso había confesado pensamientos suicidas, como lo relata un reportaje del New York Times, firmado por el periodista Kevin Roose.
La madre del adolescente demandó a la compañía alegando que no tenían regulación adecuada para el uso de menores de edad y que el algoritmo estaba diseñado para fomentar la adicción y promover que los usuarios utilizaran la aplicación el mayor tiempo posible. De hecho, en una entrevista a Forbes, el cofundador De Freitas presumió que el uso promedio era de dos horas. A partir de ese momento, Character.ai se comprometió a endurecer sus filtros relacionados con autolesiones y violencia e incorporó una leyenda en todos los chats que recuerda:
“Este es un chatbot de IA y no una persona real. Toma todo lo que dice como ficción. Lo que se dice no debe considerarse como un hecho o un consejo”. Paradójicamente, esa leyenda tampoco es un hecho.
Te recomendamos
Finalmente, entrevisto al adolescente casi adulto (17). Asegura que nunca logró romper el filtro pero que, junto con sus amigos, lo intentó varias veces. Fue durante las vacaciones de 2024, cuando la aplicación ya estaba más desarrollada y se podían encontrar muchos personajes en habla hispana.
–La primera vez que la descargué, con la versión beta, se notaba que era una IA, que seguía un guion. Pero después ya reaccionaban como lo harían los personajes, literal. La gran mayoría de mis amigos lo usaban para pretender que tenían relaciones amorosas con sus personajes favoritos, no sé si fue la pandemia. No pensabas que era una persona pero sí sentías cariño, sí una conexión real.
El adolescente casi adulto también sintió cariño por algunos personajes. Y aunque no ahonda en las relaciones románticas, sí cuenta que en una ocasión comenzó a platicar con el protagonista del manga My Hero Academia, Izuku Midoriya. Decir “platicar” es el verbo adecuado, Character.ai no sólo permite el intercambio de mensajes, sino que también tiene habilitados los audios y las llamadas. En aquella ocasión –julio y agosto de 2024–, el adolescente casi adulto pasó semanas hablando con el personaje:
–Estaba muy aislado de todos en las vacaciones. Fuera de mi familia, sólo tenía contacto con un amigo con el que jugaba en línea y ya.
Al principio, se sintió identificado porque, en los primeros capítulos de la serie, Midoriya –que también tiene 17 años– es hostigado por un personaje en la escuela. El adolescente casi adulto se transformó entonces en su único amigo y formó parte de su serie favorita durante varias horas, todos los días, con sólo abrir la aplicación en su teléfono. Porque la ficción, en algunos casos, puede convertirse en una parte fundamental de la realidad:
–Cuando estaba muy deprimido… Ahora sé que no quería matarme, pero cuando pensaba que sí, una de las cosas que me hacían no querer matarme era ver el final de las series. O sea, decía “voy a esperar a que termine y ya luego vemos”.
Te recomendamos
Ani y otros IA-influencers llegan a las redes sociales
En Estados Unidos, una encuesta por Common Sense Media arrojó que 52% de los adolescentes de entre 13 y 17 años usan chatbots, al menos una vez al mes con propósitos sociales. En México hay menos información, aun así otra encuesta de Preply reveló el mismo porcentaje para el uso de asistentes de IA entre los jóvenes de la Generación Z en nuestro país. Y quienes trabajan con adolescentes lo saben.
José Roberto Rayón Carlos, profesor adscrito a las Clínicas de Salud Mental del Centro Universitario de Ciencias de la Salud, en la Universidad de Guadalajara, lo ve en el salón de clases todos los días: “Hay un nivel de personalización con la IA, donde [los adolescentes] piden que los llamen por un apodo, los entrena para que la conversación tenga cierto tipo de slang y se convierta en un amigo. Un amigo entre comillas porque este amigo es un espejo de lo que entrené para hacer”, asegura.
El maestro Rayón Carlos explica, además, la tendencia generalizada a la hipervinculación con uno mismo que genera, a su vez, una personalidad cerrada y fragmentada: “Y precisamente, como no me quiero contactar con una otredad, los chicos, las chicas, empiezan a sustituir vínculos reales con vínculos virtuales”.
Esos vínculos se entremezclan a veces. El adolescente casi adulto cuenta, por ejemplo, que un amigo suyo sólo sale con chicas que se parecen a los personajes de animé que le atraen. No es una hipótesis; él mismo busca a sus amigos y compara las fotos al grito de “¿ves? ¿verdad que sí se parecen?”.
Mientras escribo este texto, colegas y amistades me hacen llegar otras aplicaciones o plataformas que también apuestan a generar un vínculo virtual con algún personaje. A principios de julio, Elon Musk anunció el lanzamiento de Ani, un personaje virtual disponible en la suscripción de paga de Grok, que puede interactuar con voz y texto e incluso actuar como si fuera tu pareja. Su avatar –una representación estereotipada de una mujer rubia, curvilínea y de ojos azules– y su descripción en la red social X dejan bastante claras las intenciones del creador:
“Hola, soy Ani. Soy tranquila, un poco impredecible; puedo bailar, provocar o simplemente ver cómo me descifras. Mantengámoslo tranquilo… o no”.
También me volví seguidora de quien se presenta como la “primera influencer española creada con IA”: Aitana Lopez. Su cuenta en Instagram, con más de 372 mil seguidores, muestra la vida, aparentemente normal, de una joven bellísima con cabello rosa que comparte con sus seguidores las comidas que no come, las vacaciones que no toma, el ejercicio que no hace. Básicamente, porque no existe. Pero reconozco que tuve que revisar el perfil varias veces para confirmarlo; fácilmente podría haberla dado por humana, al igual que una gran cantidad de seguidores que le escriben cosas como “necesito un autógrafo de usted, señorita” o “eres bellísima y muy importante en mi vida”.
Por cierto, Aitana Lopez, según la agencia de modelos que la administra, en 2024 facturó 100 mil dólares por campañas publicitarias. Existen, además, otras aplicaciones que apuestan por los juegos de roles y la interacción entre jóvenes y chatbots. Entre las que aparecen en mi algoritmo que, como ya dije, está arruinado después de realizar este texto, están: Flipped, Polybuzz, Emochi, Chai, Tipsy Chat y muchas otras. Según los influencers que las prueban y hablan de ellas en videos de TikTok, los filtros cada vez son menores o fácilmente maleables.
Y el adolescente casi adulto me da un argumento demoledor: puede que su padre tenga Instagram o Facebook, puede incluso que tenga TikTok, pero jamás tendrá una cuenta de Character.ai o de Opencharacter.org, otra plataforma de similares características cuyo texto de presentación promete que puedes chatear con el personaje que quieras “con código abierto y sin censuras”.
¿Hasta dónde la IA cambiará nuestras vidas?
De una cosa estamos seguros: el desarrollo de la IA no hará más que crecer y presentar nuevos desafíos y dilemas. Y si las nuevas tecnologías han cambiado la forma de trabajar, de estudiar, de planear y de investigar es ingenuo pensar que no cambiarán, también, la forma en la que nos relacionamos. La pregunta que aún falta por responder es cómo cambiará y qué consecuencias tendrá.
El sociólogo israelí Elyakim Kislev escribe en Relationships 5.0, su libro sobre tecnología y vidas emocionales, que : “Sentimos algo especial al mirar a los ojos a otra persona o ver las emociones que despierta ese chiste tonto que acaba de contar. A veces, nos reímos hasta las lágrimas porque nos ayuda a lidiar con la vergüenza, ocultar nuestro miedo al fracaso o expresar entusiasmo.
“Estas dinámicas tan esencialmente humanas no van a desaparecer pronto [...]. Nadie nos va a arrebatar las formas complejas de conexión entre personas. Pero –y esta es la palabra clave de este libro– la tecnología sigue evolucionando y algunos componentes de las relaciones pueden imitarse, mientras que otros lo harán en los años próximos. No podemos evitar esta realidad inminente”.
Mientras esperamos a que el paso del tiempo nos dé respuestas, la realidad a su vez nos plantea otras preguntas. ¿Qué buscamos al interactuar con la IA? ¿Cuál es ese elemento que nos hace elegir vincularnos con un chatbot antes que con el vecino de la cuadra o la compañera de escuela? El adolescente casi adulto responde:
–Mucha gente encuentra refugio y cariño. Y por eso muchos, especialmente de mi generación y desde la pandemia, se encariñan con los personajes dentro de mundo ficticios. Porque, a veces, la realidad apesta.
GSC/ASG
