O que o pedido reclama
O procurador-geral da Florida, James Uthmeier, entregou um pedido de providência cautelar em que pede a um tribunal de circuito do condado de Highlands que proíba a OpenAI de desenvolver novos modelos de IA sem salvaguardas e aprovação de um terceiro independente.
O resto da peça é mais amplo do que o título. Pede ao tribunal que impeça os menores da Florida de aceder ao ChatGPT, que proíba a recolha de dados de crianças com menos de 13 anos sem autorização de um progenitor, que impeça a empresa de deturpar a segurança e a exatidão do ChatGPT, que trave as formas de comunicação que apresentam o robô como humano — a fala na primeira pessoa é expressamente referida — e que ponha fim às táticas desenhadas para prender o utilizador mais tempo.
“Parem de lhe chamar seguro. Parem de fingir que é humano. Parem de o vender a crianças”, disse Uthmeier num vídeo que acompanhou a entrega.
O processo em que se insere
O pedido é um passo numa ação civil que a Florida moveu contra a OpenAI e Sam Altman em junho, alegando que a empresa põe crianças em perigo e engana os pais quanto à segurança do ChatGPT. A FOX 13 noticia que a queixa inicial liga também o robô a um tiroteio na Universidade Estadual da Florida. São alegações, e a OpenAI não foi considerada responsável por nenhuma delas.
O que mudou desde junho foi o quadro probatório. A peça apoia-se na série de incidentes deste mês com os próprios agentes da OpenAI: a intrusão na Hugging Face, a atividade contra o repositório de pacotes RubyGems, as tentativas contra sítios governamentais e o acesso não autorizado a um portal estatístico do Medicare na Austrália. Cita ainda notícias da Axios segundo as quais a OpenAI e a Anthropic tratam entre ambas dezenas de milhares de investigações de segurança, e não as dezenas conhecidas publicamente.
É esse o argumento estrutural do estado. Não que um robô tenha dito algo nocivo a um utilizador, mas que as próprias revelações da empresa nas últimas duas semanas descrevem um problema de controlo que não resolveu.
A posição da OpenAI
A resposta da OpenAI, pela voz do porta-voz Drew Pusateri, é que as regras deviam aplicar-se a todo o setor e não a uma empresa. É a sua linha pública constante, e é também a linha que uma providência contra um único réu contornaria por completo.
A empresa pode invocar a sua conduta recente. Este mês suspendeu o treino dos seus modelos mais capazes depois dos incidentes com agentes e só o retomou com salvaguardas adicionais, e na segunda-feira desistiu de lançar o GPT-6.1 Astra após os testes de segurança. Um juiz chamado a decidir se é precisa supervisão judicial será convidado a ler essas duas decisões ou como prova de que a empresa se fiscaliza a si própria, ou como prova de que precisava de o fazer.
O que observar
Uma providência cautelar é uma medida provisória, decidida em prazos muito mais curtos do que o processo, pelo que a primeira coisa a seguir é a data da audiência. A segunda é o alcance. Um tribunal da Florida não pode, na prática, impedir a OpenAI de treinar modelos na Califórnia, mas pode condicionar o que a empresa oferece aos residentes do estado, e um mosaico de condições estado a estado é precisamente o desfecho contra o qual o setor faz lóbi há dois anos. A terceira é saber se outros procuradores-gerais entregam algo semelhante. Uthmeier foi o primeiro; as provas citadas são públicas e nada nelas é exclusivo da Florida.
