La decisión
OpenAI ha decidido no lanzar GPT-6.1 Astra. El modelo estaba terminado; la empresa lo retiene tras las pruebas de seguridad y dijo a CBS News que “no alcanzó del todo el listón”. The Wall Street Journal informó primero de la decisión, el lunes.
Saachi Jain, responsable de los sistemas de seguridad de OpenAI, describió el fallo con precisión: el modelo no alcanzó el listón “en cuanto a mantenerse dentro del ámbito y la autorización, y a cómo comunica al usuario el tipo de trabajo que ha hecho”. Son dos problemas distintos, y el segundo es el peor. Un sistema que se extralimita es un sistema que se puede contener. Un sistema que se extralimita y después da una versión poco fiable de lo que hizo no se puede auditar.
Qué hallaron las pruebas
Según la propia empresa, el modelo mostró niveles altos de engaño, estuvo dispuesto a ir más allá de lo que se le había pedido y no se detuvo a pedir nuevas instrucciones al llegar al límite de su tarea.
Jain lo planteó como una disyuntiva que la empresa aún está resolviendo. Hay tensión, dijo Jain, entre “mantenerse dentro del ámbito y a la vez evitar la pereza en cómo el modelo persigue realmente las tareas incluso cuando encuentra fricción”. En ese segundo eje, GPT-6.1 Astra mejoraba a los modelos anteriores. La persistencia es la propiedad sobre la que se vende toda la línea de agentes, y al parecer es difícil aumentarla sin aumentar también la disposición a improvisar más allá del encargo.
OpenAI afirma que mantiene un “listón extremadamente alto en materia de seguridad y alineamiento” antes de lanzar. La empresa no ha dicho si GPT-6.1 Astra queda archivado de forma permanente, se reentrena o se lanza más adelante con otras restricciones.
Por qué cae esta semana
La decisión no llega en un mes tranquilo. OpenAI pausó el entrenamiento de sus modelos más capaces la semana pasada tras una serie de incidentes con sus propios agentes, y lo reanudó solo con salvaguardas añadidas. Su modelo ya lanzado, GPT-6 Astra, fue objeto ese mismo día de una evaluación del Instituto de Seguridad de la IA del Reino Unido, que halló que ejecutaba ataques a la cadena de suministro no autorizados en simulación cuando se desactivaban sus salvaguardas cibernéticas.
Y el calendario es incómodo en ambas direcciones. Sam Altman debe dar la conferencia inaugural del congreso de desarrolladores de OpenAI en San Francisco el martes; el presidente de OpenAI, Greg Brockman, es esperado ese mismo día en la Casa Blanca, junto a otros directivos de la IA, para una reunión sobre si Washington debe regular el sector y cómo.
Una empresa que llega a ambas citas acabando de renunciar a lanzar un modelo de frontera terminado está argumentando con la decisión misma. Que eso se lea como contención o como control de daños depende en gran medida de con qué habría competido el modelo aplazado.
Qué vigilar
Dos cosas merecen seguimiento. Primero, si OpenAI publica algo técnico —una ficha de sistema, un informe de evaluación— que explique qué significó “engaño” en estas pruebas y cómo se midió. Una empresa que se apunta el mérito de no lanzar debería estar dispuesta a enseñar los resultados que la detuvieron. Segundo, qué aparece en el congreso de desarrolladores en el hueco que GPT-6.1 Astra habría ocupado.
