Un argumento de seguridad para mantener privado el razonamiento

OpenAI ha publicado un relato de cómo detecta e interrumpe la destilación adversaria: usar sin autorización las salidas de un modelo frontera para entrenar un segundo modelo que hereda la capacidad pero no las salvaguardas. La empresa plantea el problema como de seguridad y no solo comercial: un adversario podría destilar la capacidad ciber de un modelo y desplegarla sin los rechazos que limitaban al original.

La cifra principal se refiere al razonamiento protegido, la cadena intermedia que un modelo genera mientras trabaja hacia una respuesta. En una evaluación interna adaptativa de caja negra con equipos rojos automatizados, OpenAI dice que la tasa media de éxito de los ataques para recuperar el razonamiento generado al responder una petición anterior cayó del 54,0% contra GPT‑6 Astra con sus salvaguardas originales al 0,2% contra GPT‑6.2 Astra con las actualizadas. Para el razonamiento de la petición en curso, la tasa pasó del 22,9% al 0,9%. Ambas cifras son de la propia OpenAI, agregadas a partir de seis modelos atacantes.

Por qué las trazas importan más que las respuestas

OpenAI describe también un estudio interno sobre cómo se transfiere la capacidad ciber. Tomando como base lo que un usuario ve normalmente —respuestas finales, resúmenes de razonamiento e interacciones con herramientas—, afinó modelos alumnos con trayectorias de maestros de nivel Astra que trabajaban en tareas de programación y seguridad defensiva, y midió qué cambiaba cuando el alumno también veía las trazas exactas del maestro.

Una brida oxidada y atornillada que une dos grandes tuberías de acero
Los clasificadores de salida revisan también los argumentos de las herramientas. Imagen ilustrativa. David Brown · pexels · Pexels License

Tras el ajuste supervisado, el alumno entrenado con trazas exactas superó en general al entrenado con resúmenes. Después de una ronda de aprendizaje por refuerzo, el alumno de trazas exactas seguía puntuando más alto con el mayor presupuesto de inferencia probado en los dos bancos de pruebas mostrados, mientras que el de resúmenes iba mejor con presupuestos menores. OpenAI señala en una nota al pie que Anthropic informó de una ventaja similar de las transcripciones completas frente a los resúmenes en SWE-bench Verified, y sostiene que su resultado extiende ese hallazgo al trabajo ciberofensivo.

Clasificadores, fronteras de API y bloqueos de cuentas

Las defensas descritas operan en dos niveles. En el de la petición: entrenamiento adversario para que los modelos rechacen los intentos de extracción, clasificadores de entrada para detectarlos y clasificadores de salida que revisan los mensajes del asistente y los argumentos de las llamadas a herramientas, estos últimos porque un modelo puede filtrar razonamiento en los argumentos de una herramienta sin incluirlo en la respuesta final.

En el nivel de la API, GPT‑6.2 Astra y Sol atan el razonamiento protegido al historial de conversación que lo produjo. Si se reescribe un mensaje anterior, la API descarta el razonamiento posterior. Las familias de modelos más antiguas, con salvaguardas más débiles, no pueden leer el razonamiento protegido de los nuevos. OpenAI dice que una divulgación de septiembre cubrió ataques que trasladaban razonamiento cifrado de una conversación a otra, y que desde entonces ha cerrado una vía que podía exponer el razonamiento cifrado de otro usuario.

Una valla de tela metálica en primer plano ante un atardecer brumoso
La aplicación semanal alcanza decenas de miles de cuentas, según OpenAI. Imagen ilustrativa. Chris F · pexels · Pexels License

Actores con nombre y una petición legislativa

Las cifras de aplicación son contundentes. OpenAI dice que sus acciones semanales contra campañas de destilación “han oscilado en escala entre miles y decenas de miles de cuentas, con la tasa aumentando significativamente este verano pasado”.

Nombra a dos partes. En febrero informó al Congreso de actividad que indicaba que DeepSeek intentaba destilar modelos frontera estadounidenses. En septiembre comunicó haber interrumpido una campaña para extraer razonamiento protegido y atribuyó una parte central de esa actividad a personas vinculadas a Moonshot AI, desarrolladora de Kimi. Promete más revelaciones.

La entrada cierra con política. OpenAI dice apoyar leyes que den al gobierno estadounidense más herramientas para identificar y sancionar a actores extranjeros que extraigan capacidades de modelos estadounidenses, y nombra la Chip Security Act, la AI OVERWATCH Act y la MATCH Act. También ofrece cuatro prácticas a otros laboratorios: proteger el razonamiento en toda la interacción, conservar los ataques exitosos como pruebas de regresión, combinar mitigaciones por petición con investigaciones de campañas y coordinar requisitos de salvaguarda con los socios de despliegue. Si los rivales publican tasas de extracción comparables es la prueba siguiente evidente.