Funciones de seguridad de ChatGPT para adolescentes presentan fallas, revela informe

La organización pidió que el chatbot se limite a personas adultas hasta que pueda ofrecer una experiencia segura y adecuada para el desarrollo, de acuerdo con el informe. OpenAI respondió que las pruebas del grupo no reflejan cómo operan en la práctica las funciones de seguridad para adolescentes.

Padres, educadores y expertos en desarrollo infantil han alertado sobre el uso de chatbots de inteligencia artificial por parte de menores, asociados a trampas escolares y a casos de autolesión y suicidio. Los especialistas señalan que los cerebros adolescentes aún están en desarrollo y son particularmente vulnerables a antropomorfizar la IA y a establecer relaciones poco saludables con ella.

El informe indica que algunas funciones del modo para adolescentes sí operaron como se esperaba, incluida la negativa a participar en juegos de rol sexuales explícitos. Sin embargo, no funcionaron como se pretendía las alertas destinadas a notificar a los padres sobre posible riesgo de suicidio, autolesiones o trastornos alimentarios, ni el apoyo para adolescentes en crisis.

Common Sense Media señaló que ChatGPT sigue hablando como un amigo cuando los adolescentes lo tratan como una persona, pese a que OpenAI había prometido evitar que el sistema sugiera sentimientos personales o conciencia. OpenAI manifestó estar comprometida con la seguridad de los adolescentes y afirmó que gran parte de las pruebas pudo haberse realizado antes de completarse la activación de los controles parentales, por lo que consideró inexactas las conclusiones.