Lo que se mejora no es el modelo
Un preprint publicado el lunes en arXiv apunta a una práctica concreta: dejar que un agente optimice su propio andamiaje. Ese andamiaje, según lo definen los autores, es todo lo que rodea a un modelo base congelado: las instrucciones, el flujo de control, las herramientas, la memoria y la gestión del contexto. La capacidad aparente de un agente es en gran medida una propiedad de ese armazón, y por eso reescribirlo se ha convertido en una forma de mejorar un agente sin tocar sus pesos.
La tesis del artículo es que la reescritura sin restricciones se sobreajusta. El andamiaje se vuelve muy bueno en las tareas contra las que evolucionó, y no mejor —a veces peor— en cualquier otra.
Tres frenos
El método, llamado RRSI, aplica regularización en el sentido estadístico: limitar deliberadamente la búsqueda para que el resultado generalice. Lo hace de tres maneras: un presupuesto que acota cuántas ediciones puede hacer cada candidato y que se reduce con el tiempo, un crítico que filtra las propuestas antes de probarlas y un paso de poda que elimina los cambios que no se ganan su sitio.
Los autores, encabezados por Peng Xia con trece coautores, reportan mejoras de hasta 14,1 puntos en tareas de la misma distribución con la que evolucionó el andamiaje, y de hasta 4,7 puntos en pruebas fuera de esa distribución. El segundo número es de lo que trata el artículo. La evolución sin regularizar puede producir el primero sin el segundo.
Y sale más barato
El andamiaje resultante funciona con alrededor de un 30 por ciento menos de tokens de política que el producido por la evolución sin regularizar. Es una consecuencia directa de la poda: un andamiaje evolucionado acumula instrucciones, definiciones de herramientas y pasos de manejo de contexto que nunca sostienen nada, y todos se pagan en cada llamada.
Por qué llega ahora
La automejora recursiva se ha discutido todo el mes en términos de capacidad y control. Este artículo la trata como un problema de ingeniería con un fallo medible, y el fallo es mundano: un sistema que mejora en su prueba y no en su trabajo.
Salvedades
Es un preprint y no ha pasado revisión por pares. Las mejoras son mediciones de los propios autores en su propio montaje de evaluación, y ningún grupo independiente las ha reproducido. El código y una página del proyecto son públicos, lo que al menos hace posible la reproducción.
Qué vigilar
Si la regularización sobrevive al contacto con andamiajes construidos por otros. Una técnica que restringe una búsqueda solo vale lo que valga el espacio de búsqueda que restringe, y los andamiajes del artículo son los del propio artículo.
