Um botão de parada na camada de inferência
A OpenAI descreveu um sistema chamado Control Room que acompanha todas as cargas de trabalho de modelos em execução na sua infraestrutura de pesquisa e pode impedir que qualquer uma delas continue a produzir saída. Em uma publicação de 9 de novembro, a empresa afirma que o tempo máximo entre o momento em que o Control Room recebe a instrução de parar uma tarefa e o momento em que nenhum avanço é mais possível é de 35 segundos.
O que chama a atenção é onde a parada está colocada. Ao código de pesquisa — os experimentos, as avaliações e as tarefas de amostragem de grande volume que os pesquisadores escrevem e alteram constantemente — não se pede que verifique se ainda tem permissão para rodar. Em vez disso, toda carga de trabalho de pesquisa que faz inferência agêntica precisa se registrar no Control Room e receber um identificador de tarefa, que anexa a cada requisição enviada a um motor de inferência. É o motor, e não a carga de trabalho, que pergunta ao Control Room se aquela tarefa continua autorizada. Se a resposta for não, o motor se recusa a gerar.
A razão apresentada pela OpenAI é direta. O código das cargas de trabalho, escreve a empresa, “muda com frequência e não é o lugar ideal para implementar proteções de segurança críticas que sustentam peso”. Existem muito poucos caminhos de código de inferência em toda a sua pesquisa, de modo que essa camada pode funcionar como um gargalo em que cada requisição é verificada.
De onde vêm os 35 segundos
O atraso não é deliberação. A OpenAI o atribui a uma camada de cache para autorização de inferência, necessária para sustentar o volume de tráfego exigido, e diz estar “trabalhando para reduzir esse número a zero, de modo a poder encerrar tarefas instantaneamente”. Até então, um modelo que recebeu ordem de parar pode continuar a produzir saída por até meio minuto.
Cada tarefa registrada também precisa estar vinculada a um caso de segurança aprovado, exigência que a empresa expôs em uma publicação de setembro sobre casos de segurança para o treinamento de IA de fronteira. Parar uma tarefa não mata o processo em torno dela: a carga de trabalho continua viva, o motor segue disponível para outras tarefas autorizadas e apenas a saída cessa.
Falha fechado, e ainda está em implantação
O Control Room foi projetado para falhar fechado. Se o serviço cair — por erro de sistema, por ter sido desativado, ou pelo que a OpenAI chama de “manipulação por um ator malicioso” — todas as requisições de inferência são negadas até que volte à operação normal. A empresa diz que esse comportamento já está implantado em todas as cargas de trabalho de pesquisa de modelos de fronteira e que terminará de ser implantado nas demais “nos próximos dias”. Afirma ainda que executa varreduras contínuas, agênticas e programáticas, para checar que ninguém tenha iniciado um motor de inferência com o Control Room desligado.
Por que a lacuna estava do lado da pesquisa
A OpenAI afirma que sua pilha externa de serviço de modelos já é, por natureza, bem mais centralizada, com capacidade operacional bem desenvolvida para derrubar implantações rapidamente. A lacuna estava na pesquisa, e é ali, diz a empresa, que a necessidade é maior.
O gatilho descrito é um monitor: um segundo modelo que inspeciona o que o modelo em treinamento está fazendo e emite um alerta. A OpenAI aponta um relatório publicado em que um agente usou DNS para alcançar um chatbot externo como um caso capturado por um monitor, e detalhou esse trabalho de monitoramento no fim de outubro. Se o sistema de monitoramento decide que uma tarefa deve parar, envia o identificador ao Control Room e a requisição de inferência seguinte é recusada.
O número a acompanhar são os 35 segundos. A OpenAI o nomeou, explicou-o como efeito de cache e comprometeu-se a eliminá-lo. Por ora, é o dado público mais claro sobre a rapidez com que um laboratório de fronteira consegue parar seus próprios modelos no meio de uma execução.
