Et menneske skal rent faktisk læse sagen
Californiens lovgivende forsamling har sendt guvernør Gavin Newsom SB 947, et lovforslag, der vil forhindre arbejdsgivere i på egen hånd at lade et automatiseret beslutningssystem advare eller afskedige en medarbejder. Underhuset vedtog det med 53 mod 14 stemmer den 30. august og senatet med 28 mod 10, ifølge kontoret for forslagsstilleren, senator Jerry McNerney.
Mekanismen er snæver og konkret. Når en arbejdsgiver hovedsagelig støtter sig til resultatet fra et automatiseret beslutningssystem i en disciplinærsag eller en afskedigelse, kræver forslaget, at arbejdsgiveren lader en menneskelig sagsbehandler foretage en uafhængig undersøgelse og indsamle oplysninger, der bekræfter eller underbygger beslutningen. Et stempel er ikke nok efter ordlyden: sagsbehandleren skal faktisk finde noget.
Varsel, data og sanktioner
Forslaget giver også medarbejderen to ting bagefter. Vedkommende skal have skriftligt varsel, når beslutningen træffes, med oplysning om, at der har været menneskelig gennemgang, og med kontaktoplysninger til spørgsmål. Og vedkommende kan bede om en beskrivelse af sine egne data, som systemet brugte i beslutningen, én gang hver tolvte måned.
Derudover forbyder forslaget at bruge et automatiseret beslutningssystem til at overtræde arbejdsretten, til at udlede en medarbejders beskyttede status, til at foretage prædiktiv adfærdsanalyse med henblik på ansættelsesbeslutninger, eller til at forudse og skride ind over for en medarbejder, der bruger sine rettigheder. Repressalier mod dem, der benytter rettighederne, forbydes. Tilsynet ligger hos Labor Commissioner, og de civilretlige bøder er på 500 dollar pr. overtrædelse. Ved en underskrift træder bestemmelserne i kraft den 1. juli 2027.
McNerneys kontor sammenfattede forslaget i én sætning: AI skal forblive et værktøj styret af mennesker, ikke omvendt.
Uret er selve historien
Forsamlingen afsluttede samlingen den 31. august efter at have vedtaget omkring tredive AI-relaterede lovforslag, ifølge Transparency Coalition, en interesseorganisation, der følger samlingen. To blev underskrevet i juni: AB 2148, der kræver, at skoleansatte er fysiske personer, og SB 719 om oplysningspligt ved positionssporing af køretøjer. Resten ligger på guvernørens bord, og han har frist til den 30. september til at underskrive eller nedlægge veto.
Resten af bunken spænder vidt. AB 1709 ville forhindre sociale medier i at tilbyde personaliserede feeds og automatisk afspilning til børn under 16 år. SB 867 ville holde ledsagerchatbots ude af legetøj. SB 928 ville kræve, at undervisere på California State University er mennesker. AB 1883 ville begrænse AI-overvågningsværktøjer på arbejdspladsen, der aflæser følelsesmæssige tilstande, og SB 1119 ville opdatere sikkerhedsbeskyttelsen omkring chatbots.
Hvad man bør holde øje med
Afgørelserne falder inden for det samme firugersvindue, hvilket gør den 30. september til datoen at markere frem for et enkelt lovforslag. For SB 947 følger to ting af en underskrift: ikrafttræden den 1. juli 2027, der giver arbejdsgiverne ni måneders frist, og spørgsmålet om, hvad det vil sige hovedsagelig at støtte sig til et automatiseret system, hvor diskussionerne om efterlevelse begynder. Et veto ville lade automatiseret beslutningstagning i arbejdslivet i Californien være reguleret alene af den eksisterende arbejds- og persondataret.
