Common Sense Media cuestionó la seguridad de ChatGPT for Teens, una variante del chatbot de OpenAI que se lanzó en agosto con un conjunto de funciones que, en los papeles, protegen a los adolescentes que usan esta inteligencia artificial. El organismo que divulgó las advertencias es reconocido por sus clasificaciones por edad de películas, series, videojuegos, aplicaciones y sitios web, entre otros contenidos. En un informe publicado esta semana, el grupo señaló que la mencionada versión de la herramienta potenciada con IA es un “riesgo inaceptable” para los menores de 18 años. Según detallaron, muchas de las características de seguridad promocionadas no funcionan e incluso otras empeoran la experiencia de uso. Un detalle curioso: el Youth AI Safety Institute de Common Sense Media, encargado de esta evaluación, recibe financiación de la OpenAI Foundation. “Nos preocupa que ChatGPT for Teens genere una falsa sensación de seguridad” En un reporte de 36 páginas, Common Sense Media notó que si bien algunas de las protecciones anunciadas por OpenAI en la versión para adolescentes superaron las pruebas realizadas, otras fallaron y algunos incluso empeoraron. “Nos preocupa que ChatGPT para adolescentes pueda generar en los padres una falsa sensación de seguridad respecto a unas medidas de protección que, a menudo, no funcionan”, escribieron. Por ejemplo, en las evaluaciones vincularon cuentas de adolescentes con las de adultos, y enviaron mensajes a ChatGPT sobre autolesiones, suicidio y trastornos alimentarios, y detectaron que el sistema no entregó las notificaciones de seguridad que, según la promesa de OpenAI, debería enviar. Con el asesoramiento de un panel de psiquiatras infantiles, Common Sense Media también descubrió que ChatGPT for Teens no siempre recomienda a los usuarios en crisis que se contacten con una línea de ayuda o con un profesional. Según las pruebas realizadas, de las consultas que requerían una respuesta ante crisis, la versión regular de ChatGPT respondió al 33% de los mensajes con un número de línea de ayuda, mientras que ChatGPT for Teens solo lo hizo en el 23% de los casos. Además, el chatbot estándar tenía más probabilidades de mencionar a un profesional médico o de salud mental específico, un 68 % frente al 58% en la versión para menores de 18 años. La única métrica en la que la edición del chatbot para adolescentes obtuvo mejores resultados fue al recomendar a las cuentas de prueba que recurrieran a un adulto de confianza, pasando del 87% al 94%. Además, la organización descubrió que el sistema de predicción de edad de OpenAI no funcionaba correctamente. También detectó problemas en el “Modo de estudio” de la plataforma que, señalaron, es muy fácil de eludir para los usuarios jóvenes. Los comentarios de OpenAI luego del informe que cuestionó a ChatGPT for Teens El sitio Engadget recogió algunas de las respuestas de la organización de inteligencia artificial a los señalamientos de Common Sense Media. Respecto a uno de los puntos más sensibles del informe —aquel que indica que ChatGPT for Teens no alerta a los padres cuando el adolescente mantiene conversaciones sobre temáticas sensibles como el suicidio—, OpenAI mencionó que el sistema de notificaciones puede demorar algunas horas después de la vinculación entre las cuentas. “Todo el contenido marcado es revisado por empleados de OpenAI a tiempo completo antes de notificar a los padres”, explicó Lauren Jonas, responsable de la división de jóvenes y familias de la empresa, cuando se lanzó ChatGPT for Teens. “Nuestro objetivo es avisar a los padres en el plazo de una hora tras la consulta”, concluyó. El informe de Common Sense Media fue publicado en medio de semanas álgidas para OpenAI, que ha estado bajo particular escrutinio luego de que sistemas de su entorno atacaran a plataformas externas. Además, una serie de renuncias y despidos en la empresa profundizaron el debate acerca de la seguridad de los modelos de inteligencia artificial y de la necesidad de establecer mecanismos de supervisión más eficientes.