Någon måste faktiskt läsa ärendet
Kaliforniens lagstiftande församling har skickat SB 947 till guvernör Gavin Newsom, ett lagförslag som skulle hindra arbetsgivare från att på egen hand låta ett automatiserat beslutssystem varna eller säga upp en anställd. Underhuset antog det med 53 röster mot 14 den 30 augusti och senaten med 28 mot 10, enligt kansliet för förslagsställaren, senator Jerry McNerney.
Mekanismen är snäv och konkret. När en arbetsgivare huvudsakligen stödjer sig på utdata från ett automatiserat beslutssystem inför en disciplinåtgärd eller en uppsägning kräver förslaget att arbetsgivaren låter en mänsklig granskare göra en oberoende utredning och samla in information som styrker eller stödjer beslutet. En gummistämpel räcker inte enligt lagtexten: granskaren måste faktiskt leta fram något.
Underrättelse, data och sanktioner
Förslaget ger också den anställde två saker i efterhand. Personen ska få skriftlig underrättelse när beslutet fattas, med besked om att mänsklig granskning skett och kontaktuppgifter för frågor. Och personen får begära en beskrivning av sina egna uppgifter som systemet använt i beslutet, en gång var tolfte månad.
Därutöver förbjuder förslaget att ett automatiserat beslutssystem används för att bryta mot arbetsrätten, för att härleda en anställds skyddade status, för att göra prediktiv beteendeanalys inför anställningsbeslut, eller för att förutse och vidta åtgärder mot en anställd som utövar sina rättigheter. Repressalier mot den som utnyttjar rättigheterna förbjuds. Tillsynen ligger hos Labor Commissioner och de civilrättsliga sanktionerna uppgår till 500 dollar per överträdelse. Vid ett undertecknande träder bestämmelserna i kraft den 1 juli 2027.
McNerneys kansli sammanfattade förslaget i en mening: AI ska förbli ett verktyg som styrs av människor, inte tvärtom.
Klockan är själva nyheten
Församlingen avslutade sessionen den 31 augusti efter att ha antagit ett trettiotal AI-relaterade lagförslag, enligt Transparency Coalition, en intresseorganisation som följer sessionen. Två undertecknades i juni: AB 2148, som kräver att skolanställda är fysiska personer, och SB 719 om redovisning av positionsspårning i fordon. Resten ligger på guvernörens bord, och han har till den 30 september på sig att skriva under eller lägga in veto.
Resten av högen spänner brett. AB 1709 skulle hindra sociala medier från att erbjuda personanpassade flöden och automatisk uppspelning till barn under 16 år. SB 867 skulle hålla sällskapschattbottar borta från leksaker. SB 928 skulle kräva att lärare vid California State University är människor. AB 1883 skulle begränsa AI-verktyg på arbetsplatsen som övervakar känslotillstånd, och SB 1119 skulle uppdatera säkerhetsskyddet kring chattbottar.
Vad man bör följa
Besluten landar i samma fyraveckorsfönster, vilket gör den 30 september till datumet att märka ut snarare än något enskilt lagförslag. För SB 947 följer två saker på ett undertecknande: ett ikraftträdande den 1 juli 2027 som ger arbetsgivarna nio månaders anpassningstid, och frågan om vad det innebär att huvudsakligen stödja sig på ett automatiserat system, som är där efterlevnadsdiskussionerna börjar. Ett veto skulle lämna automatiserat beslutsfattande i arbetslivet i Kalifornien reglerat enbart av befintlig arbets- och integritetsrätt.
