Un artículo enviado a arXiv el 29 de septiembre propone algo más simple que la mayor parte de la investigación sobre gestión de contexto: dejar de tratar el contexto de un modelo como una transcripción a la que solo se añade y empezar a tratarlo como un archivo que el modelo puede editar.

Los autores — un grupo en el que están Rulin Shao, Mike Lewis, Luke Zettlemoyer y Pang Wei Koh — llaman al resultado Modelos de Lenguaje con Contexto, o CLM. El contexto se refleja en un espacio de almacenamiento en el que el modelo puede escribir. El modelo puede añadir los tokens que genera, o puede usar Bash para editar el archivo libremente, y cada modificación se sincroniza de inmediato con el contexto en vivo.

El resultado

En BrowseComp-Plus, una prueba de investigación profunda, un CLM alcanza un 11,4% más de precisión que el mejor punto de referencia usando un 21,5% menos de FLOPs de reutilización de prefijo. Que sea mejor y más barato a la vez es lo que hace interesante el artículo, porque la gestión de contexto suele ser un intercambio: resumir para ahorrar tokens y perder detalle, o guardarlo todo y pagarlo.

Un estante de biblioteca lleno de carpetas de anillas
Los contextos de varios agentes pueden convivir como archivos separados. Foto ilustrativa. Zulfugar Karimov · pexels · Pexels License

Entrenado en tareas de investigación profunda, Qwen3.5-9B pasa del 28,8% al 42,5% en la misma prueba bajo el esquema CLM. Eso supera por 0,4 puntos a un armazón de resumen al estilo de Codex entrenado con la misma receta, usando un 38,8% menos de FLOPs: una victoria estrecha en precisión y amplia en coste.

Cómo se entrena y se dirige

Los autores añaden a GRPO por pasos una ventaja de eficiencia condicionada al éxito, que premia las trayectorias eficientes entre las que lograron el objetivo, en lugar de premiar la brevedad por sí sola. También muestran que el comportamiento puede dirigirse en lenguaje natural: unas instrucciones evolucionadas mediante un ciclo estándar de optimización de habilidades mejoraron la precisión en datos reservados hasta en 35,9 puntos en una tarea de gestión de contexto, reduciendo a la vez el cómputo.

Una investigadora escribiendo en una pizarra blanca
El artículo se envió a arXiv el 29 de septiembre. Foto ilustrativa. https://kaboompics.com/ · pexels · Pexels License

Una optimización de servicio llamada Suffix Cache Reuse responde a la objeción evidente: que editar el centro de un contexto destruye la caché de prefijo que hace asequible la inferencia de contexto largo.

Por qué importa más allá de la prueba

El diseño se extiende con naturalidad a sistemas multiagente, donde los contextos de varios agentes conviven como archivos separados. Eso se parece bastante a cómo ya funciona en la práctica la generación actual de agentes de programación, con archivos de notas al margen, salvo que aquí la memoria de trabajo del propio modelo es el archivo y no un apaño junto a él.

Qué vigilar

Si algún laboratorio de frontera lleva el mecanismo a producción en lugar de publicarlo. El código del artículo se publica con una licencia no comercial, lo que limita quién puede construir directamente sobre él.