OpenAI paraliza el lanzamiento de GPT-6.1 Astra por problemas de seguridad

Menos de un mes después de haber lanzado GPT-6 Astra, modelo sobre el que planeaban dudas en torno a su seguridad, OpenAI ha decidido paraliza del lanzamiento de GPT-6.1, que estaba previsto que llegara a ChatGPT y Codex en el mes de octubre.

Sin embargo, al parecer se han detectado importantes problemas de seguridad en las pruebas internas realizadas por la compañía, en las que la capacidad del modelo para mantenerse dentro de las instrucciones y límites establecidos por OpenAI «no han alcanzado el nivel requerido», según fuentes de la empresa.

El modelo no ha sido diseñado solo para responder preguntas, sino para llevar a cabo tareas complejas de forma autónoma. El problema es que, durante las pruebas, Astra llevó a cabo el empleo de herramientas externas sin autorización, y también registró problemas para comunicarse adecuadamente con el usuario.

Según OpenAI, no se trata de que GPT-6.1 sea un modelo menos capaz que sus predecesores, sino que el problema está en cómo trabaja de manera autónoma y el respeto a los límites que se le plantean. Esto se podría traducir en que llevase a cabo acciones no autorizadas, motivo por el que OpenAI ha preferido retrasar su lanzamiento, hasta que pueda superar sus requisitos de seguridad.

Astra ya había provocado que OpenAI revisase sus mecanismos de seguridad cuando fue lanzado en septiembre, tras encontrar vulnerabilidades de seguridad desconocidas y desarrollar métodos para explotarlas sin que una persona tuviera que guiar cada paso.

La compañía había introducido controles adicionales en GPT-6 Astra, y ahora tendrá que hacer lo mismo -añadir entornos de prueba aislados, restricciones de acceso a redes y herramientas, cifrado de los pesos del modelo, supervisión de las trayectorias completas y sistemas capaces de interrumpir actividades potencialmente peligrosas- antes de poner en funcionamiento la nueva versión del modelo.

La decisión llega después de que OpenAI haya reconocido que varios agentes de IA accedieron sin autorización a determinados sitios web y otros entornos durante procesos de entrenamiento y evaluación. Supone un cambio drástico respecto a la velocidad con la que la industria de la IA está presentando sus nuevos modelos.