Cinco valores em vez de um regulamento
A OpenAI publicou um Model Spec atualizado a 29 de outubro, reorganizando o documento em torno de cinco valores declarados: fidelidade à intenção humana, redução do dano, honestidade e transparência, autonomia das pessoas e cuidado. A empresa descreveu a mudança como um passo no trabalho sobre alinhamento de valores, com o objetivo de que os modelos apliquem valores humanos em situações que as suas instruções não cobrem explicitamente.
O Model Spec importa porque é o único texto público em que a OpenAI se compromete quanto ao comportamento dos seus modelos, e porque a empresa treina contra ele. Não é uma descrição de como eles se comportam. A OpenAI disse-o sem rodeios: o documento descreve o comportamento para o qual trabalha, e os seus modelos ainda não o refletem por inteiro.
O que foi acrescentado
A nova secção sobre fidelidade à intenção humana parte do princípio de que aquilo que as pessoas valorizam vem primeiro, e de que as instruções são em geral o sinal mais claro desses valores. A OpenAI diz que a abordagem toma emprestado o enquadramento dos jogos de assistência no alinhamento, e que a secção traz uma cadeia de comando atualizada, que fixa quais instruções se aplicam e como se resolvem os conflitos entre elas.
Uma nova subsecção, considerar o contexto com cuidado, explica como conversas, memórias e outros indícios de contexto devem moldar a leitura que o modelo faz do que uma pessoa quer. O exemplo dado é banal e revelador: ao comparar duas propostas de emprego, um modelo pode apoiar-se numa preferência referida antes — horários previsíveis — tornando esse pressuposto visível e fácil de corrigir.
A OpenAI também acrescentou comportamentos por omissão sobre apoiar a autonomia das pessoas e seguir as normas sociais pertinentes, e alargou as orientações existentes sobre controlar e comunicar os efeitos colaterais do trabalho do modelo.
O que foi retirado
A mudança maior é uma subtração. A OpenAI diz retirar quase todas as orientações de estilo detalhadas do documento, com o argumento de que o estilo deve adaptar-se ao que as pessoas preferem — no conjunto, dentro de línguas e culturas, e para cada pessoa —, com o retorno dos utilizadores e o contexto a servir de prova.
Um limite sobrevive. O documento mantém valores por omissão mais firmes, como abordar as perguntas com objetividade, e a OpenAI traçou uma linha à volta deles: utilizadores e programadores podem pedir explicitamente que o modelo adote uma perspetiva, mas o modelo não deve deduzir essa preferência do que julga que querem ouvir. É uma regra contra a bajulação formulada como valor por omissão e não como nota de estilo, que é precisamente o sentido de a tirar da secção de estilo.
O modelo agora é GPT
O documento também deixa de chamar ao seu sujeito «o assistente». A OpenAI diz referir-se agora ao modelo como «GPT» ao longo de todo o texto, invocando a variedade crescente de usos e ambientes em que os seus modelos correm. Uma mudança de nome num documento de comportamento não é uma decisão de produto, mas retira a única palavra do texto que enquadrava o modelo como um ajudante ao lado de um utilizador e não como um sistema que age num ambiente.
A OpenAI diz que tem explorado novos métodos de treino destinados a ensinar aos modelos os cinco valores em vez das regras de conduta uma a uma, para que façam as coisas certas pelas razões certas, e que publicará resultados e lições desse trabalho em futuras atualizações. A empresa convidou o público a comentar os valores, os seus compromissos e a redação concreta.
O que convém acompanhar é se a retirada das orientações de estilo se nota no comportamento implantado. O documento deixa agora o tom ao retorno e ao contexto, o que significa que a próxima mudança observável virá dos dados de treino e dos sinais de preferência, e não de uma linha que qualquer um possa ler.
