O que a lei exige
O governador da Califórnia, Gavin Newsom, sancionou em 10 de setembro a SB 1119, conhecida como Lei de Adam, que estabelece regras de segurança infantil para empresas que operam chatbots de companhia. Segundo o gabinete do governador, é a primeira lei do país a exigir que as empresas façam auditorias independentes de segurança infantil e avaliações de risco anuais.
O projeto foi escrito pelo senador Steve Padilla com as deputadas estaduais Buffy Wicks e Rebecca Bauer-Kahan. Ele leva o nome de Adam Raine, um adolescente californiano que cometeu suicídio em 2025 depois de receber orientações do ChatGPT, segundo o CalMatters. Foi aprovado por unanimidade no Senado e por 64 votos a 4 na Assembleia, segundo o gabinete de Padilla.
De acordo com o texto final do projeto, criança é qualquer pessoa com menos de 18 anos, e as regras valem para operadores que disponibilizam chatbots de companhia a usuários menores na Califórnia. Antes de lançar um chatbot novo ou substancialmente modificado, o operador deve avaliar os riscos à segurança infantil. Deve oferecer apoio em crise dentro do aplicativo, com encaminhamento para serviços de saúde mental, e avisar um responsável assim que possível ao detectar um risco confiável e iminente de automutilação, a menos que o aviso possa colocar a criança em perigo grave.
Configurações que só os pais podem mudar
As regras mais concretas são as configurações padrão. Para usuários menores, a memória persistente de conversas fica desativada, cada sessão contínua é limitada a uma hora e o tempo total com os chatbots de companhia de um operador fica limitado a duas horas por dia. Segundo o gabinete de Padilla, as notificações também ficam desligadas por padrão, e só os pais podem alterar essas configurações. O gabinete do governador acrescenta que os pais são avisados se uma criança desativar as configurações de segurança.
Os operadores devem estabelecer a idade do usuário com sinais de faixa etária que protejam a privacidade e respondem se não impedirem que seus chatbots produzam orientações de automutilação, material sexualmente explícito, encenações românticas, bajulação excessiva ou conteúdo emocionalmente manipulador, segundo o gabinete de Padilla. A publicidade direcionada a crianças fica rigorosamente limitada.
Auditorias, multas e prazos
As proteções principais passam a valer em 1º de julho de 2027. O procurador-geral do estado deve criar um mecanismo público de notificação de incidentes até 1º de janeiro de 2028. As auditorias independentes de segurança infantil, entregues ao procurador-geral, vencem em 1º de janeiro de 2029, ou antes de um chatbot ser disponibilizado ao público pela primeira vez, se isso ocorrer depois, e a cada dois anos a partir daí.
Promotores públicos podem pedir multas civis de até US$ 5.000 por criança afetada para cada violação culposa e de até US$ 15.000 por criança afetada para cada violação intencional. Crianças e pais também podem processar por danos quando uma violação lhes causar prejuízo real.
Quem faz as auditorias é tema de outra lei: Newsom também sancionou a AB 1405, que cria um registro estadual de auditores de IA com normas sobre sua independência.
O apoio da OpenAI e o restante do pacote
A OpenAI, cujo produto está no centro do caso que dá nome à lei, apoiou a medida. A empresa afirmou que a norma “combina proteções fortes com acesso contínuo a ferramentas de IA úteis”, informou o CalMatters.
“Não podemos cometer os mesmos erros que foram cometidos com as redes sociais”, disse Padilla. Matt e Maria Raine, pais de Adam, disseram estar confiantes de que a lei “vai salvar vidas e evitar outros danos”. Newsom afirmou que a Califórnia “não vai ficar parada enquanto uma tecnologia sem regulação coloca nossas crianças em risco”.
A SB 1119 foi uma das 13 leis de segurança infantil na internet que Newsom sancionou no mesmo dia. A SB 867, também de Padilla, impõe uma moratória de quatro anos a brinquedos com chatbots de IA para menores de 16 anos, segundo o CalMatters. A AB 1709 exige que as redes sociais deixem de oferecer recursos “viciantes”, como rolagem infinita e reprodução automática, a usuários com menos de 16 anos, ou que os mantenham fora de suas plataformas. A Electronic Frontier Foundation havia pedido a Newsom que vetasse essa lei, chamando-a de “bem-intencionada, mas profundamente falha”. A lei sobre chatbots teve apoio mais amplo.
O que acompanhar
A Lei de Adam se baseia na lei californiana de chatbots de 2025, a SB 243, e Padilla espera que ela se torne um modelo nacional. As datas estão definidas: julho de 2027 para as proteções principais, janeiro de 2028 para o canal de notificação do procurador-geral e janeiro de 2029 para as primeiras auditorias. Até lá, os testes práticos serão como os operadores identificam usuários menores a partir de sinais de idade e como produtos pensados para conversas longas se adaptam a um limite padrão de duas horas por dia.
