Hva loven krever
Californias guvernør Gavin Newsom signerte 10. september SB 1119, kjent som Adams lov, som innfører regler for barns sikkerhet hos selskaper som driver såkalte ledsagerchatboter. Ifølge guvernørens kontor er dette den første loven i USA som krever at selskaper gjennomfører uavhengige revisjoner av barns sikkerhet og årlige risikovurderinger.
Lovforslaget ble skrevet av senator Steve Padilla sammen med delstatsrepresentantene Buffy Wicks og Rebecca Bauer-Kahan. Det er oppkalt etter Adam Raine, en tenåring fra California som tok sitt eget liv i 2025 etter å ha fått råd fra ChatGPT, melder CalMatters. Senatet vedtok forslaget enstemmig og delstatsforsamlingen med 64 mot 4 stemmer, ifølge Padillas kontor.
Ifølge den endelige lovteksten regnes alle under 18 år som barn, og reglene gjelder operatører som gjør ledsagerchatboter tilgjengelige for barn i California. Før en ny eller vesentlig endret chatbot lanseres, må operatøren vurdere risikoen for barns sikkerhet. Operatøren skal tilby krisestøtte i appen med henvisning til psykisk helsehjelp, og varsle en forelder så snart som mulig ved en troverdig og akutt risiko for selvskading, med mindre varselet i seg selv kan sette barnet i alvorlig fare.
Standardinnstillinger bare foreldre kan endre
De mest konkrete bestemmelsene gjelder standardinnstillingene. For barn er vedvarende samtaleminne slått av, én sammenhengende økt begrenses til én time, og samlet tid med en operatørs ledsagerchatboter begrenses til to timer per dag. Ifølge Padillas kontor er også varsler slått av som standard, og bare en forelder kan endre innstillingene. Guvernørens kontor legger til at foreldre får beskjed hvis et barn slår av sikkerhetsinnstillinger.
Operatørene må fastslå brukerens alder med personvernvennlige aldersgruppesignaler, og er ansvarlige hvis de ikke hindrer chatbotene i å gi veiledning om selvskading, seksuelt eksplisitt materiale, romantisk rollespill, overdreven smiger eller følelsesmessig manipulerende innhold, ifølge Padillas kontor. Målrettet reklame mot barn begrenses strengt.
Revisjoner, sanksjoner og frister
De sentrale beskyttelsene trer i kraft 1. juli 2027. Delstatens justisminister skal opprette en offentlig ordning for hendelsesrapportering innen 1. januar 2028. Uavhengige revisjoner av barns sikkerhet, som leveres til justisministeren, skal være gjennomført innen 1. januar 2029, eller før en chatbot først gjøres offentlig tilgjengelig hvis det skjer senere, og deretter hvert annet år.
Påtalemyndigheten kan kreve sivile bøter på opptil 5000 dollar per berørt barn for hvert uaktsomt brudd og opptil 15 000 dollar per berørt barn for hvert forsettlig brudd. Barn og foreldre kan også saksøke for erstatning når et brudd påfører dem reell skade.
Hvem som skal utføre revisjonene, reguleres i en annen lov: Newsom har også signert AB 1405, som oppretter et delstatlig register over KI-revisorer med krav til deres uavhengighet.
Støtte fra OpenAI og resten av pakken
OpenAI, hvis produkt står i sentrum av saken loven er oppkalt etter, støttet forslaget. Selskapet har sagt at loven «kombinerer sterk beskyttelse med fortsatt tilgang til nyttige KI-verktøy», meldte CalMatters.
«Vi kan ikke gjøre de samme feilene som ble gjort med sosiale medier», sa Padilla. Matt og Maria Raine, Adams foreldre, sa at de er sikre på at loven «vil redde liv og forhindre andre skader». Newsom sa at California «ikke vil sitte stille og se på mens uregulert teknologi setter barna våre i fare».
SB 1119 var én av 13 lover om barns sikkerhet på nett som Newsom signerte samme dag. SB 867, også fra Padilla, innfører et fireårig moratorium for KI-drevne chatbotleker for barn under 16 år, ifølge CalMatters. AB 1709 krever at sosiale medier enten slutter å tilby «avhengighetsskapende» funksjoner som uendelig rulling og automatisk avspilling til brukere under 16 år, eller holder dem helt utenfor plattformene. Electronic Frontier Foundation hadde oppfordret Newsom til å legge ned veto mot den loven og kalte den «velment, men dypt mangelfull». Chatbotloven fikk bredere støtte.
Hva du bør følge med på
Adams lov bygger på Californias chatbotlov fra 2025, SB 243, og Padilla venter at den blir en nasjonal modell. Datoene er nå fastsatt: juli 2027 for de sentrale beskyttelsene, januar 2028 for justisministerens rapporteringskanal og januar 2029 for de første revisjonene. Frem til da blir de praktiske spørsmålene hvordan operatørene identifiserer barn ut fra aldersgruppesignaler, og hvordan produkter laget for lange samtaler tilpasses en standardgrense på to timer per dag.
