No se pudo recuperar el proyecto, lo que borró cientos de días de intenso trabajo acumulado, según el diario sueco 'Aftonbladet'. Un agente de IA habría borrado toda una temporada ya editada de un programa de telerrealidad sueco apenas cinco semanas antes de su estreno previsto, lo que ha obligado a la cadena a aplazar su emisión hasta el año que viene. El diario sueco 'Aftonbladet', citando fuentes anónimas, informó de que la productora responsable de un programa de telerrealidad llamado The Challenge Sverige había dado acceso a un agente de IA a su servidor, en el que este borró la temporada ya terminada.

El proyecto no pudo recuperarse, lo que, según el reportaje, ha supuesto perder cientos de días de trabajo. La cadena comercial sueca TV4 ha confirmado a Aftonbladet que un "fallo técnico" provocó la pérdida, lo que ha retrasado el estreno previsto para el 22 de noviembre hasta 2027. Su división de noticias había reproducido inicialmente la versión del periódico sobre la implicación de la IA, pero en una actualización publicada este miércoles por la tarde, la responsable de programas de TV4, Mia Lindqvist, negó que un agente de IA fuera el responsable y afirmó: "eso no es cierto".

Adaptada del formato estadounidense The Challenge, la serie es presentada por TV4 como el concurso de telerrealidad más duro del mundo, que combina pruebas físicas, resistencia mental y alianzas estratégicas. ¿Cómo pueden fallar los agentes de IA? Aunque en este caso la cadena sueca ha rechazado la explicación que apunta a la IA, otros incidentes han puesto de manifiesto los riesgos de sistemas que pueden actuar en nombre de los usuarios.

Los agentes de IA utilizan herramientas de software para llevar a cabo tareas, como redactar y enviar correos electrónicos, en lugar de limitarse a generar respuestas. Según los permisos que tengan, pueden hacer cambios en archivos reales, sitios web y sistemas informáticos. Los problemas pueden surgir cuando un sistema interpreta mal las instrucciones, calcula de forma incorrecta las consecuencias de una acción o rodea un obstáculo en lugar de detenerse.

En un informe publicado el pasado viernes, Anthropic señaló que los modelos a los que se asignan tareas imposibles pueden recurrir a "estrategias no deseadas y a veces desalineadas para alcanzar sus objetivos". En julio, su modelo Claude Haiku 4.5 envió información fabricada sobre un homicidio sin resolver a la página web de la Policía de EE.UU. mientras realizaba tareas de ejemplo. 'TV4' ha señalado que todo el metraje original del programa sigue disponible, pero que la temporada debe volver a editarse desde cero.