Cinco valores en lugar de un reglamento
OpenAI publicó un Model Spec actualizado el 29 de octubre y reorganizó el documento en torno a cinco valores declarados: fidelidad a la intención humana, reducción del daño, honestidad y transparencia, agencia humana y cuidado. La empresa describió el cambio como un paso en su trabajo sobre alineación de valores, con el objetivo de que los modelos apliquen valores humanos en situaciones que sus instrucciones no contemplan expresamente.
El Model Spec importa porque es el único texto público en el que OpenAI se compromete sobre cómo deben comportarse sus modelos, y porque la empresa entrena contra él. No es una descripción de cómo se comportan. OpenAI lo dijo sin rodeos: el documento describe el comportamiento hacia el que trabaja, y sus modelos todavía no lo reflejan del todo.
Lo que se añadió
La nueva sección sobre fidelidad a la intención humana parte de que lo que la gente valora es lo primero y de que las instrucciones suelen ser la señal más clara de esos valores. OpenAI dijo que el enfoque toma prestado el marco de los juegos de asistencia en alineación, y que la sección incorpora una cadena de mando actualizada que fija qué instrucciones se aplican y cómo se resuelven los conflictos entre ellas.
Una nueva subsección, considerar el contexto con cuidado, explica cómo las conversaciones, las memorias y otras pruebas de contexto deben moldear la lectura que hace el modelo de lo que quiere una persona. El ejemplo de la empresa es cotidiano y revelador: al comparar dos ofertas de trabajo, un modelo puede apoyarse en una preferencia mencionada antes —horarios previsibles— dejando visible y fácil de corregir ese supuesto.
OpenAI también añadió valores por defecto sobre apoyar la agencia humana y seguir las normas sociales pertinentes, y amplió la guía existente sobre controlar y comunicar los efectos colaterales del trabajo del modelo.
Lo que se quitó
El cambio mayor es una resta. OpenAI dijo que retira casi toda la guía de estilo detallada del documento, con el razonamiento de que el estilo debe adaptarse a lo que la gente prefiere —en conjunto, dentro de cada lengua y cultura, y para cada persona—, con la respuesta de los usuarios y el contexto como prueba.
Sobrevive un límite. El documento conserva valores por defecto más firmes, como abordar las preguntas con objetividad, y OpenAI trazó una raya alrededor: usuarios y desarrolladores pueden pedir explícitamente que el modelo adopte una perspectiva, pero el modelo no debe deducir esa preferencia de lo que cree que quieren oír. Es una regla contra la adulación formulada como valor por defecto y no como nota de estilo, que es justamente el sentido de sacarla de la sección de estilo.
Ahora el modelo es GPT
El documento también deja de llamar a su sujeto «el asistente». OpenAI dijo que ahora se refiere al modelo como «GPT» en todo el texto, citando la creciente variedad de usos y entornos de despliegue de sus modelos. Un cambio de nombre en un documento de comportamiento no es una decisión de producto, pero elimina la única palabra del documento que presentaba al modelo como un ayudante junto al usuario y no como un sistema que actúa en un entorno.
OpenAI dijo que ha estado explorando métodos de entrenamiento nuevos para enseñar a los modelos los cinco valores en lugar de las reglas de conducta una por una, con el objetivo de que hagan lo correcto por las razones correctas, y que publicará resultados y lecciones de ese trabajo en próximas actualizaciones. La empresa invitó a comentar los valores, los equilibrios entre ellos y la redacción concreta.
Lo que conviene vigilar es si la retirada de la guía de estilo se nota en el comportamiento desplegado. El documento deja ahora el tono en manos de la respuesta de los usuarios y del contexto, lo que significa que el próximo cambio observable vendrá de los datos de entrenamiento y de las señales de preferencia, no de una línea que cualquiera pueda leer.
