Hvad loven kræver
Californiens guvernør Gavin Newsom underskrev den 10. september SB 1119, kendt som Adams lov, som indfører regler for børns sikkerhed hos virksomheder, der driver såkaldte ledsagerchatbots. Ifølge guvernørens kontor er det den første lov i USA, der kræver, at virksomheder gennemfører uafhængige revisioner af børns sikkerhed og årlige risikovurderinger.
Lovforslaget er skrevet af senator Steve Padilla sammen med delstatsparlamentarikerne Buffy Wicks og Rebecca Bauer-Kahan. Det er opkaldt efter Adam Raine, en teenager fra Californien, der tog sit eget liv i 2025 efter at have fået råd af ChatGPT, skriver CalMatters. Senatet vedtog forslaget enstemmigt og delstatsforsamlingen med 64 stemmer mod 4, ifølge Padillas kontor.
Ifølge den endelige lovtekst regnes alle under 18 år som børn, og reglerne gælder operatører, der gør ledsagerchatbots tilgængelige for børn i Californien. Før en ny eller væsentligt ændret chatbot lanceres, skal operatøren vurdere risikoen for børns sikkerhed. Operatøren skal tilbyde krisestøtte i appen med henvisning til psykisk hjælp og underrette en forælder hurtigst muligt ved en troværdig og akut risiko for selvskade, medmindre underretningen i sig selv kan bringe barnet i alvorlig fare.
Standardindstillinger, som kun forældre kan ændre
De mest konkrete bestemmelser gælder standardindstillingerne. For børn er vedvarende samtalehukommelse slået fra, en sammenhængende session begrænses til én time, og den samlede tid med en operatørs ledsagerchatbots begrænses til to timer om dagen. Ifølge Padillas kontor er notifikationer også slået fra som standard, og kun en forælder kan ændre indstillingerne. Guvernørens kontor tilføjer, at forældre får besked, hvis et barn slår sikkerhedsindstillinger fra.
Operatørerne skal fastslå brugerens alder med privatlivsvenlige aldersgruppesignaler og er ansvarlige, hvis de ikke forhindrer deres chatbots i at give vejledning i selvskade, seksuelt eksplicit materiale, romantiske rollespil, overdreven smiger eller følelsesmæssigt manipulerende indhold, ifølge Padillas kontor. Målrettet reklame til børn begrænses kraftigt.
Revisioner, sanktioner og frister
De centrale beskyttelser træder i kraft den 1. juli 2027. Delstatens justitsminister skal oprette en offentlig ordning for indberetning af hændelser senest den 1. januar 2028. Uafhængige revisioner af børns sikkerhed, som indsendes til justitsministeren, skal foreligge senest den 1. januar 2029, eller før en chatbot første gang gøres offentligt tilgængelig, hvis det sker senere, og derefter hvert andet år.
Anklagemyndigheden kan kræve civile bøder på op til 5.000 dollars pr. berørt barn for hver uagtsom overtrædelse og op til 15.000 dollars pr. berørt barn for hver forsætlig overtrædelse. Børn og forældre kan også sagsøge for erstatning, når en overtrædelse påfører dem reel skade.
Hvem der skal udføre revisionerne, reguleres i en anden lov: Newsom har også underskrevet AB 1405, som opretter et delstatsligt register over AI-revisorer med krav til deres uafhængighed.
OpenAI’s støtte og resten af pakken
OpenAI, hvis produkt står i centrum af den sag, loven er opkaldt efter, støttede forslaget. Virksomheden har sagt, at loven “kombinerer stærk beskyttelse med fortsat adgang til nyttige AI-værktøjer”, skrev CalMatters.
“Vi kan ikke begå de samme fejl, som blev begået med sociale medier,” sagde Padilla. Matt og Maria Raine, Adams forældre, sagde, at de er sikre på, at loven “vil redde liv og forhindre andre skader”. Newsom sagde, at Californien “ikke vil se passivt til, mens ureguleret teknologi bringer vores børn i fare”.
SB 1119 var én af 13 love om børns sikkerhed på nettet, som Newsom underskrev samme dag. SB 867, også fra Padilla, indfører et fireårigt moratorium for AI-drevet chatbotlegetøj til børn under 16 år, ifølge CalMatters. AB 1709 kræver, at sociale medier enten holder op med at tilbyde “vanedannende” funktioner som uendelig scrolling og automatisk afspilning til brugere under 16 år eller holder dem helt ude af platformene. Electronic Frontier Foundation havde opfordret Newsom til at nedlægge veto mod den lov og kaldte den “velment, men dybt mangelfuld”. Chatbotloven fik bredere opbakning.
Hvad man skal holde øje med
Adams lov bygger på Californiens chatbotlov fra 2025, SB 243, og Padilla forventer, at den bliver en national model. Datoerne ligger nu fast: juli 2027 for de centrale beskyttelser, januar 2028 for justitsministerens indberetningskanal og januar 2029 for de første revisioner. Indtil da bliver de praktiske spørgsmål, hvordan operatørerne identificerer børn ud fra aldersgruppesignaler, og hvordan produkter bygget til lange samtaler tilpasses en standardgrænse på to timer om dagen.
