OpenAI congeló “indefinidamente” sus planes para lanzar un chatbot erótico, ya que se está reenfocando en sus productos principales, tras las preocupaciones de empleados e inversionistas sobre el impacto del contenido sexualizado de la inteligencia artificial (IA) en la sociedad.
Según varias fuentes cercanas a la empresa, la startup de Sam Altman ya había retrasado el lanzamiento de su “modo para adultos” en medio de discusiones internas sobre si descartar el modelo por completo.
El chatbot sexual se enfrentaba a una oposición cada vez mayor por cómo podía fomentar vínculos poco saludables con los sistemas de IA y exponer a menores a contenido sexual problemático.
OpenAI confirmó que el modelo erótico está suspendido sin una fecha de lanzamiento prevista. El laboratorio de IA, valorado en 730 mil millones de dólares, indicó que quería realizar investigaciones a largo plazo sobre los efectos de los chats sexualmente explícitos y los vínculos emocionales, como parte del desarrollo de productos, reconociendo que hoy no existe “evidencia empírica”.
Esta decisión marcó el último paso de OpenAI para abandonar lo que sus ejecutivos denominan “proyectos secundarios” y, en vez de eso, dedicar recursos a herramientas de productividad, integrando productos como asistentes de programación y ChatGPT en una “superaplicación”.
OpenAI anunció el martes el cierre de su modelo de generación de video y aplicación social Sora.
El modelo erótico resultó particularmente controvertido para OpenAI, en un momento en que grupos de redes sociales como Meta se enfrentan a demandas legales por el daño que sus productos causan a los menores.
El año pasado, xAI, la empresa deElon Musk , hizo un gran esfuerzo por atraer usuarios con contenido para adultos, pero se enfrentó a una fuerte reacción negativa global por su modelo Grok, que creaba imágenes sexuales falsas de personas reales, incluidos menores.
Esta tensión pone de manifiesto la presión sobre OpenAI para impulsar la participación y encontrar nuevas vías de crecimiento en un mercado competitivo, al tiempo que lidia con los riesgos éticos y de reputación de productos que difuminan la línea entre utilidad y dependencia emocional.
De acuerdo con dos personas familiarizadas con el asunto, el coqueteo de OpenAI con el modo para adultos causó inquietud entre algunos de sus inversionistas, debido a los riesgos que conlleva un producto de este tipo y su escaso potencial de beneficio para la empresa.
El modo para adultos de OpenAI también hizo sonar la señal de alarma entre el personal sobre si desarrollar un producto que fomenta el uso romántico contradice su misión fundacional de garantizar que la IA beneficie a toda la humanidad.
“La IA no debería reemplazar a tus amigos ni a tu familia; debes mantener tus relaciones humanas”, afirmó un antiguo empleado de alto nivel, quien declaró que su salida se debió en parte a este problema.
Además de la creciente preocupación por el impacto social del proyecto, la compañía se ha enfrentado a desafíos técnicos para la creación de su modelo de contenido para adultos.
Tuvo dificultades para entrenar modelos de IA que evitaban este tipo de conversaciones por motivos de seguridad para producir contenido explícito, según dos personas familiarizadas con el proyecto. Añadieron que el uso de conjuntos de datos con contenido sexual plantea desafíos, como la eliminación de comportamientos ilegales como la bestialidad o el incesto.
OpenAI explicó que están definiendo cuidadosamente los límites adecuados y entrenando el modelo para distinguir cierto contenido en escenarios complejos.
El código de la aplicación web ChatGPT sugiere que el modelo para adultos, llamado “Modo Citron”, podría requerir que los usuarios verifiquen que son mayores de 18 años para acceder a él.
En los últimos meses, OpenAI introdujo un nuevo sistema de predicción de edad luego de varias demandas presentadas por familias de adolescentes que alegan que ChatGPT les causó daños.
De acuerdo con una persona familiarizada con el asunto, la tecnología tiene una tasa de error superior al 10 por ciento, lo que aumenta la preocupación por el acceso de menores de edad. El Wall Street Journal fue el primero en informar sobre la tasa de error y sobre las inquietudes expresadas por el consejo asesor de expertos de OpenAI en materia de bienestar respecto al producto para adultos.
OpenAI detalló que su sistema de predicción de edad funciona de acuerdo con los estándares de la industria y que continúa invirtiendo en mejorar su precisión y confiabilidad.
Con información adicional de: George Hammond
