Alguém precisa reabrir o processo
O legislativo da Califórnia enviou ao governador Gavin Newsom o SB 947, um projeto que impediria empregadores de usar sozinho um sistema de decisão automatizada para punir ou demitir um trabalhador. A Assembleia aprovou o texto por 53 votos a 14 em 30 de agosto e o Senado por 28 a 10, segundo o gabinete de seu autor, o senador Jerry McNerney.
O mecanismo é estreito e específico. Quando o empregador se apoia principalmente no resultado de um sistema de decisão automatizada para uma punição ou demissão, o texto exige que ele designe um revisor humano para conduzir uma investigação independente e reunir informações que corroborem ou sustentem a decisão. Um carimbo não basta pela letra do projeto: o revisor precisa ir atrás de algo.
Aviso, dados e penalidades
O projeto também dá duas coisas ao trabalhador depois do fato. Ele deve receber aviso por escrito no momento da decisão, informando que houve revisão humana e oferecendo um contato para dúvidas. E pode solicitar uma descrição dos próprios dados usados pelo sistema naquela decisão, uma vez a cada doze meses.
Em separado, o texto proíbe usar um sistema de decisão automatizada para violar a legislação trabalhista, para inferir a condição protegida de um trabalhador, para fazer análise preditiva de comportamento com fins de emprego, ou para antecipar e agir contra um trabalhador que exerce seus direitos. Proíbe ainda represálias contra quem usar os direitos que cria. A fiscalização cabe ao Labor Commissioner, e as penalidades civis chegam a 500 dólares por infração. Se sancionado, o texto entra em vigor em 1º de julho de 2027.
O gabinete de McNerney resumiu o projeto em uma frase: a IA deve continuar sendo uma ferramenta controlada por pessoas, e não o contrário.
O relógio é a notícia
O legislativo encerrou a sessão em 31 de agosto depois de aprovar cerca de trinta projetos relacionados à IA, segundo a Transparency Coalition, um grupo que acompanha a sessão. Dois foram sancionados em junho: o AB 2148, que exige que funcionários escolares sejam pessoas físicas, e o SB 719, sobre divulgação de rastreamento de localização de veículos. O restante está na mesa do governador, que tem até 30 de setembro para sancionar ou vetar.
O restante da pilha cobre terreno amplo. O AB 1709 impediria redes sociais de oferecer feeds personalizados e reprodução automática a menores de 16 anos. O SB 867 manteria chatbots de companhia fora de brinquedos. O SB 928 exigiria que docentes da California State University sejam humanos. O AB 1883 restringiria ferramentas de vigilância no trabalho com IA que monitoram estados emocionais, e o SB 1119 atualizaria as proteções de segurança de chatbots.
O que observar
As decisões caem na mesma janela de quatro semanas, o que faz de 30 de setembro a data a marcar, e não um projeto específico. Para o SB 947, uma sanção traz duas coisas: vigência em 1º de julho de 2027, dando nove meses de prazo aos empregadores, e a definição do que significa apoiar-se “principalmente” em um sistema automatizado, ponto de partida das discussões de conformidade. Um veto deixaria a decisão automatizada no trabalho na Califórnia regida apenas pela legislação trabalhista e de privacidade já existente.
