Ante los constantes avances de la inteligencia artificial y los riesgos que representa, especialmente para mentes jóvenes y vulnerables, se plantean diferentes medidas para prevenir y protegerles de posibles afectaciones.
Es por ello que OpenAI, una de las principales empresas dedicadas a la investigación y la implementación de inteligencia artificial, ha dado a conocer que habrá cambios y regulaciones destinados para menores de edad. En MILENIO te compartimos de qué se trata.
¿Cuáles son los riesgos a los que se exponen los menores con el uso de la IA?
Expertos en salud infantil explicaron que la IA ya es utilizada por niños y adolescentes sin regulación, lo que puede convertirse en un problema por diversos factores, desde compartir información personal hasta perder la línea que diferencia a ésta tecnología de una persona real.
El uso de ésta inteligencia puede hacerles perder la capacidad de generar nuevas ideas propias, o incluso a poder resolver problemas por sí mismos. Además, pueden proporcionar información sesgada o errónea que es difícil de identificar si no se comprueban los datos.
También, muchas veces se convierte en un confidente, por lo que niñas y niños cuentan sus problemas a una inteligencia, la cual no les ofrecerá soluciones ni consejos objetivos, muchas veces sólo les dice lo que quieren escuchar.
¿OpenAI implementará medidas para menores?
De acuerdo con información de EFE, la empresa lanzó globalmente el programa “ChatGPT para adolescentes” éste martes 18 de agosto, con una versión que busca cuidar a las y los jóvenes menores de 18 años al limitar ciertos temas de manera automática.
La decisión responde a la gran presión que tiene la compañía por el bienestar y desarrollo mental de los menores. Se busca que la tecnología ayude a aprender de forma segura sin comprometer el bienestar.
Además, asociaciones de padres en ciudades como Nueva York y Los Ángeles exigen a las escuelas frenar el uso de inteligencia artificial por miedo a que dañe el pensamiento crítico.
¿Cuáles serán las medidas que se tomarán?
Para proteger a los usuarios, la plataforma usará tecnología avanzada que detecta la edad del menor y aplicará un grupo de reglas especiales diseñadas para cuidar su bienestar y educación.
- Identificación por señales: El sistema analiza más de 2 mil señales, tales como los horarios en los que entran a internet, para descubrir automáticamente si el usuario es menor de 18 años.
- Bloqueo de conversaciones de alto riesgo: El asistente limita de forma automática las charlas peligrosas sobre autolesiones, violencia, trastornos de alimentación y contenido sexual explícito o gráfico.
- Guía paso a paso para la escuela: Cuenta con recordatorios que sugieren activar un modo de estudio. En lugar de dar la respuesta directa, ayuda a resolver tareas de forma guiada.
- Alertas y controles para padres: Los tutores pueden activar notificaciones de seguridad. OpenAI les avisará sobre problemas de bienestar sin permitirles leer los chats privados de los jóvenes.
LO
