En una aclaración poco usual, integrantes del equipo de ingeniería de OpenAI salieron al ruedo a explicar un extraño comportamiento de ChatGPT, que se obsesionó con los goblins, criaturas similares a los duendes. En un informe extenso, integrantes de la organización especializada en inteligencia artificial respondieron a informes de usuarios que mencionaron la curiosa manía del chatbot, señalando que el problema se debió a una función que permite entrenar al modelo para que brinde respuestas más personalizadas. ChatGPT se obsesionó con los goblins y los fallos derivados de las recompensas Tal como observa Mashable, los ingenieros de OpenAI compartieron sus respuestas luego del pequeño drama en ChatGPT, que en realidad tuvo tintes de comedia.

En el detallado informe titulado De dónde vienen los goblins, los creadores del popular chatbot reconocieron que una variante del sistema de IA hizo repetidas referencias a esos monstruitos y analizó las causas detrás de ese singular comportamiento. La pregunta central es la siguiente: ¿por qué ChatGPT habló sobre duendes, en muchas ocasiones sin que el contexto lo justifique? Antes de revisar la explicación de OpenAI, un paréntesis para desprevenidos: ¿qué son los goblins?

Se trata de criaturas humanoides del folklore europeo, con aspecto y comportamiento inspirado en las fábulas sobre duendes de los bosques en relatos de origen germánico. Si bien existen diversas variantes, usualmente son representadas con cuerpos pequeños, piel de color verde, orejas puntiagudas y gesto severo. La obsesión de ChatGPT con esos duendes motivó una investigación oficial que, básicamente, concluyó que el problema ocurrió en una de las personalidades que podía adoptar el chatbot y en su forma de aprendizaje.

Desde el lanzamiento del modelo GPT 5.1, los usuarios pueden elegir perfiles para customizar a ChatGPT. En la práctica, el chatbot adopta ciertos tonos para sus respuestas. Una de esas personalidades, que recientemente fue eliminada, era la llamada “nerd”.

Además de la personalidad que responde por defecto, es posible escoger entre “amigable”, “eficiente”, “profesional”, “cándido” y “quirky”, un término en inglés que puede traducirse como “raro” o “inusual”. Según señalaron desde el grupo especializado en IA, aunque solo el 2,5% de las respuestas de ChatGPT fueron configuradas con el perfil “nerd”, más del 66% de las referencias a goblins provenían de esa variante. De algún modo, los comentarios sobre duendes fueron recompensados en el perfil “nerd” y entonces se extendieron en el chatbot.

Desde OpenAI explicaron al respecto que “las recompensas se aplicaron solo en la condición de nerd, pero el aprendizaje por refuerzo no garantiza que los comportamientos aprendidos se limiten estrictamente a la condición que los produjo”. Así, una vez que cierto hábito o tema fue recompensado, el entrenamiento posterior puede propagarlo o reforzarlo en otros contextos. Tal como señalamos, la personalidad “nerd” de ChatGPT fue eliminada.

Eso ocurrió en marzo y, desde entonces, las otras vertientes fueron instruidas para que no mencionen a los duendes en las conversaciones con los usuarios, a menos que esa referencia tenga sentido.