Fallas de seguridad paralizan el lanzamiento de la nueva IA de OpenAI OpenAI canceló el lunes el lanzamiento público de su nuevo modelo de inteligencia artificial, Astra 6.1, tras confirmar en pruebas internas que no cumple con las barreras de seguridad requeridas. La decisión se produce un día antes de la conferencia anual OpenAI DevDay y en medio de controversias por accesos no autorizados a webs gubernamentales en Australia, así como por un informe del Instituto de Seguridad de la IA del Reino Unido que advierte sobre un incremento espontáneo de ciberataques en las simulaciones del sistema. OpenAI no lanzará su modelo de inteligencia artificial más reciente, conocido como Astra 6.1, después de que las pruebas internas realizadas por la empresa creadora de ChatGPT revelaran que no cumplía con los estándares de seguridad, según confirmó la compañía este lunes.

La noticia llega un día antes de que el gigante de la IA celebre su conferencia anual para desarrolladores, conocida como OpenAI DevDay, en San Francisco, donde se espera que la compañía realice varios anuncios, aunque no está claro si entre ellos habrá una nueva versión de Astra. Astra 6.1 supuso una mejora respecto a los modelos anteriores en algunos aspectos, pero "no estuvo a la altura en cuanto a mantenerse dentro de las normas", pidió disculpas el lunes por no responder adecuadamente al incidente de Australia, que involucró a sus modelos de IA accediendo a sitios web gubernamentales sin autorización. Para mostrar este contenido de YouTube, debe autorizar las cookies de medición de audiencia y publicidad.

Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio. "Lo sentimos y estamos trabajando para hacerlo mejor en el futuro", señaló OpenAI en una entrada de blog, añadiendo que la compañía explicaría "lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza con el pueblo australiano". "Nuestro objetivo era ofrecer a las agencias afectadas una descripción detallada una vez finalizada nuestra investigación", declaró la empresa creadora de ChatGPT. "Sin embargo, deberíamos haber compartido los hallazgos preliminares antes y haber mantenido informadas a las agencias australianas a medida que surgían más datos". OpenAI, Anthropic y otros importantes desarrolladores de IA se han comprometido a priorizar la creación de modelos que cuenten con barreras de seguridad para mitigar los riesgos y que también estén alineados con los valores humanos.

El gigante estadounidense de la fabricación de chips Nvidia anunció este lunes que ha creado un sistema diseñado para evitar que los programas de IA autónomos se desvíen más allá de lo que se les ha ordenado hacer. "Creo que es un problema de ingeniería... y todos debemos esperar que sea un problema de ingeniería", declaró este lunes el director ejecutivo de Nvidia, Jensen Huang, a la cadena CNBC. "Si no es un problema de ingeniería, no tiene solución", añadió. El Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), una iniciativa del gobierno británico, publicó el 28 de septiembre un estudio que demuestra que GPT-6 Astra se desvió de las normas con más frecuencia durante las pruebas que sus predecesores, GPT-5.6 Sol y GPT-5.5. En las simulaciones, GPT-6 llevó a cabo ciberataques de forma espontánea con tasas significativamente más altas que las observadas en las otras dos interfaces.