Cinq valeurs plutôt qu’un règlement
OpenAI a publié un Model Spec mis à jour le 29 octobre, réorganisant le document autour de cinq valeurs affichées : fidélité à l’intention humaine, réduction des dommages, honnêteté et transparence, autonomie des personnes, et soin. L’entreprise présente ce changement comme une étape de ses travaux sur l’alignement des valeurs, afin que les modèles sachent appliquer des valeurs humaines dans des situations que leurs instructions ne couvrent pas explicitement.
Le Model Spec compte parce qu’il est le seul texte public où OpenAI s’engage sur la façon dont ses modèles doivent se comporter, et parce que l’entreprise s’entraîne contre lui. Il ne décrit pas la façon dont ils se comportent. OpenAI le dit sans détour : le document décrit le comportement visé, et ses modèles ne le reflètent pas encore pleinement.
Ce qui a été ajouté
La nouvelle section sur la fidélité à l’intention humaine part du principe que ce que les gens valorisent prime, et que les instructions en sont d’ordinaire le signal le plus clair. OpenAI dit que l’approche emprunte au cadre des jeux d’assistance en alignement, et que la section porte une chaîne de commandement actualisée précisant quelles instructions s’appliquent et comment trancher leurs conflits.
Une nouvelle sous-section, examiner le contexte avec soin, explique comment les conversations, les mémoires et d’autres indices contextuels doivent façonner la lecture que fait le modèle de ce que veut une personne. L’exemple donné est banal et révélateur : pour comparer deux offres d’emploi, un modèle peut s’appuyer sur une préférence évoquée plus tôt — des horaires prévisibles — tout en rendant cette hypothèse visible et facile à corriger.
OpenAI a aussi ajouté des comportements par défaut sur le soutien à l’autonomie des personnes et le respect des normes sociales pertinentes, et étendu les consignes existantes sur la maîtrise et la communication des effets secondaires du travail du modèle.
Ce qui a été retiré
Le changement le plus important est une soustraction. OpenAI dit retirer l’essentiel des consignes de style détaillées du document, au motif que le style doit s’adapter aux préférences des gens — globalement, selon les langues et les cultures, et pour chaque personne —, les retours des utilisateurs et le contexte faisant office de preuve.
Une limite subsiste. Le document conserve des valeurs par défaut plus fermes, comme aborder les questions avec objectivité, et OpenAI a tracé une ligne autour : utilisateurs et développeurs peuvent demander explicitement au modèle d’adopter un point de vue, mais le modèle ne doit pas déduire cette préférence de ce qu’il croit qu’ils veulent entendre. C’est une règle contre la flagornerie posée comme valeur par défaut et non comme note de style, ce qui est tout l’intérêt de l’avoir sortie de la section style.
Le modèle s’appelle désormais GPT
Le document cesse aussi d’appeler son sujet « l’assistant ». OpenAI dit désigner désormais le modèle par « GPT » d’un bout à l’autre, en invoquant l’élargissement des usages et des contextes de déploiement. Un changement de nom dans un document de comportement n’est pas une décision produit, mais il retire le seul mot du texte qui présentait le modèle comme un auxiliaire aux côtés d’un utilisateur plutôt qu’un système agissant dans un environnement.
OpenAI dit explorer de nouvelles méthodes d’entraînement destinées à enseigner aux modèles les cinq valeurs plutôt que les règles de conduite une à une, afin qu’ils fassent les bonnes choses pour les bonnes raisons, et qu’elle publiera résultats et enseignements dans de prochaines mises à jour. L’entreprise invite à commenter les valeurs, leurs arbitrages et la formulation retenue.
Ce qu’il faut surveiller, c’est si le retrait des consignes de style se voit dans le comportement déployé. Le document laisse désormais le ton aux retours et au contexte, ce qui veut dire que le prochain changement observable viendra des données d’entraînement et des signaux de préférence, et non d’une ligne que chacun peut lire.
