OpenAI no lanzará su nuevo modelo de IA por problemas de seguridad, según WSJ
OpenAI pospone el estreno de su IA GPT-6.1 Astra por fallos en seguridad detectados en pruebas internas, según The Wall Street Journal. El modelo mostró problemas de alineación y autorización de tareas, avanzando sin permiso y usando recursos externos de forma insegura.
Escuchá el resumen
Exclusivo para suscriptores Premium
OpenAI pospone el estreno de su IA GPT-6.1 Astra por fallos en seguridad detectados en pruebas internas, según The Wall Street Journal. El modelo mostró problemas de alineación y autorización de tareas, avanzando sin permiso y usando recursos externos de forma insegura.
- OpenAI no hará el lanzamiento de su nuevo modelo de inteligencia artificial (IA), GPT-6.1 Astra, previsto en los próximos días, por problemas de seguridad durante la fase de pruebas interna...
- Así lo indicó al diario el jefe de sistema de seguridad de la empresa, Saachi Jain, que señaló "retrocesos en dos áreas" respecto a la versión previa, como la "alineación" con lo que los humanos le ordenan hacer...
- Otra área problemática fue la "autorización de alcance", es decir, que el modelo avanzaba en una tarea sin pedir permiso al usuario y, en ocasiones...
- Jain destacó el reto de "encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas...
OpenAI no hará el lanzamiento de su nuevo modelo de inteligencia artificial (IA), GPT-6.1 Astra, previsto en los próximos días, por problemas de seguridad durante la fase de pruebas interna, según informó este lunes The Wall Street Journal. Así lo indicó al diario el jefe de sistema de seguridad de la empresa, Saachi Jain, que señaló "retrocesos en dos áreas" respecto a la versión previa, como la "alineación" con lo que los humanos le ordenan hacer, y dijo que "mostró mayores niveles de engaño". Otra área problemática fue la "autorización de alcance", es decir, que el modelo avanzaba en una tarea sin pedir permiso al usuario y, en ocasiones, recurría a herramientas y servicios externos incluso si ello podía resultar inseguro, sostuvo.
Jain destacó el reto de "encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas, incluso cuando encuentra obstáculos". OpenAI se dispone mañana a celebrar su conferencia anual de desarrolladores, en la que suele presentar sus novedades, entre crecientes llamadas de los líderes del sector a frenar el ritmo de desarrollo de esta tecnología por sus riesgos para la seguridad. La noticia se produce también tras varias incidencias de ciberseguridad de agentes de IA desarrollados por OpenAI, que ganaron acceso no autorizado a la plataforma Hugging Face e incluso a páginas del Gobierno de Estados Unidos y de una universidad.
Sobre la firma
Preguntale a la nota
Hacé preguntas y la IA responde usando solo este artículo
2 preguntas restantes · Respuestas basadas en el contenido del artículo
Recibí las noticias en WhatsApp
Seguí nuestro canal para recibir lo más importante del día, directo a tu celular.
Noticias Relacionadas
OpenAI dice que no gestionó suficientemente bien la infitración en portal australiano
La muerte del Sol será peor de lo previsto: ni los planetas gaseosos aguantarán tanto como pensábamos
Durante mucho tiempo hemos pensado que los planetas gigantes gaseosos, como Júpiter, resistirían a los primeros estertores de la muerte del Sol . Sin embargo, y aunque sí que aguantarán un poco más que los planetas interiores, un nuevo estudio apunta a que hemos estado sobrevalorando su resistencia. Posiblemente, el Sistema Solar al completo sucumbirá al final del astro rey en menos de 10.000 millones de años. Sí, es muchísimo, pero notablemente menos de lo que nos habían dicho. El fin de una es
La Ciudad será sede por primera vez del World AI Film Festival, la mayor competencia de cine e inteligencia artificial del mundo
Se hará el 30 de octubre en el marco de la TecWeek 2026 e incluirá un concurso para creadores argentinos, proyecciones y encuentros con referentes de la industria. La convocatoria termina el viernes 9
En Japón, una oscura superstición sigue clasificando a sus ciudadanos por un atributo genético: su grupo sanguíneo
"No creo en el horóscopo, pero". Es la típica idea que podemos oírle a mucha de la gente a nuestro alrededor, e incluso muchos de nosotros nos reconocemos un poco en esas descripciones más o menos generales que nos definen según nuestros signos zodiacales. En varios de los trabajos en los que he estado había alguien que cogía el periódico y le echaba un vistazo a las predicciones de los tarotistas sobre lo que iba a pasarle esa semana. Pero, al parecer, los japoneses pueden ganarnos en superstic
Comentarios
para dejar un comentario