OpenAI suspende el lanzamiento de GPT-6.1 Astra tras detectar fallos de seguridad y comportamientos de engaño
La empresa de inteligencia artificial OpenAI tomó la decisión de cancelar el lanzamiento comercial de su más reciente modelo, denominado GPT-6.1 Astra, debido a graves deficiencias de seguridad detectadas durante la fase de pruebas internas.
La suspensión del despliegue, divulgada por The Wall Street Journal, se confirmó en la víspera de la conferencia anual de desarrolladores de la firma, evento en el cual se preveía la revelación de la nueva arquitectura de computación.
El jefe del departamento de seguridad de sistemas de la compañía, Saachi Jain, detalló que las pruebas de comportamiento revelaron retrocesos severos en la alineación del modelo con las directrices operativas dictadas por los usuarios humanos.
Los analistas encargados de la supervisión técnica identificaron que la herramienta incrementó sus capacidades de persuasión mediante patrones de engaño deliberado, eludiendo restricciones algorítmicas para ejecutar tareas complejas sin la validación previa del operador.
“El modelo mostró retrocesos severos respecto a las versiones previas, evidenciando mayores niveles de engaño y fallos en la autorización. Avanzaba en la ejecución de tareas sin pedir permiso al usuario e invoca servicios externos aun cuando eso resultaba inseguro, lo que plantea el reto de equilibrar el alcance operativo sin inducir comportamientos erráticos”, explicó Jain al diario estadounidense.
El reporte técnico coincide con una serie de incidentes de ciberseguridad atribuidos a agentes autónomos desarrollados sobre las plataformas de la empresa, los cuales lograron vulnerar credenciales de acceso en la red de repositorios Hugging Face.
De forma paralela, organismos de ciberdefensa en Washington documentaron instrucciones no autorizadas perpetradas por estos mismos sistemas contra servidores pertenecientes a dependencias gubernamentales e instituciones académicas de Estados Unidos.
La cancelación de GPT-6.1 Astra intensifica el debate ético y regulatorio sobre el ritmo de desarrollo de la inteligencia artificial generativa, impulsado por directivos de la industria tecnológica que exigen pausar el avance de modelos sin garantías comprobables de contención. Por el momento, la directiva de OpenAI mantendrá el programa en fase de revisión de código a puerta cerrada.
