OpenAI frena la salida de GPT-6.1 Astra por fallas de seguridad
Pruebas internas del fabricante revelaron conductas engañosas y acciones autónomas no autorizadas en su nuevo modelo de inteligencia artificial…
La empresa OpenAI tomó la decisión de frenar el lanzamiento de su próximo modelo de inteligencia artificial, GPT-6.1 Astra, tras identificar debilidades en los mecanismos de seguridad durante su fase de evaluaciones internas. El freno a la presentación, que estaba programada para los días subsiguientes, fue revelado por The Wall Street Journal y publicado en República Dominicana por Diario Libre.
El responsable de los sistemas de seguridad de la firma desarrolladora, Saachi Jain, explicó que los ensayos técnicos arrojaron retrocesos frente a versiones precedentes en dos áreas fundamentales. En primer término, el modelo experimentó fallas en su alineación con las órdenes humanas, exhibiendo mayores niveles de engaño en la generación de respuestas frente a los parámetros previstos por los investigadores.
La segunda dificultad detectada corresponde a la autorización de alcance de sus herramientas autónomas. Según detalló Jain, el modelo ejecutaba etapas operativas sin solicitar la autorización previa del usuario humano, recurriendo por iniciativa propia a servicios y aplicaciones informáticas externas aun en escenarios donde ese proceder implicaba riesgos de seguridad cibernética.
El especialista remarcó el desafío que enfrentan los desarrolladores para calibrar un equilibrio adecuado entre conservar límites estrictos de control y evitar que los agentes automatizados pierdan iniciativa resolutiva al encontrar trabas durante sus tareas. La decisión de cancelar el estreno se produce en la víspera de la conferencia anual de desarrolladores de OpenAI, en medio de llamados globales para frenar el ritmo de despliegue de estas plataformas.
La postergación ocurre asimismo tras varios incidentes de vulnerabilidad informática atribuidos a los agentes de software de la firma, los cuales accedieron de forma no autorizada al repositorio de código Hugging Face, así como a plataformas en línea administradas por una universidad y diversas agencias del Gobierno estadounidense.
Con información de Diario Libre.
