Et menneske må faktisk lese saken
Kalifornias lovgivende forsamling har sendt guvernør Gavin Newsom SB 947, et lovforslag som ville hindre arbeidsgivere i på egen hånd å la et automatisert beslutningssystem advare eller si opp en ansatt. Underhuset vedtok det med 53 mot 14 stemmer 30. august og senatet med 28 mot 10, ifølge kontoret til forslagsstilleren, senator Jerry McNerney.
Mekanismen er snever og konkret. Når en arbeidsgiver hovedsakelig støtter seg på resultatet fra et automatisert beslutningssystem i en disiplinærsak eller oppsigelse, krever forslaget at arbeidsgiveren lar en menneskelig gjennomgår foreta en uavhengig undersøkelse og samle inn opplysninger som bekrefter eller underbygger beslutningen. Et stempel er ikke nok etter ordlyden: den som gjennomgår saken må faktisk finne noe.
Varsel, data og sanksjoner
Forslaget gir også den ansatte to ting i etterkant. Vedkommende skal få skriftlig varsel når beslutningen tas, med opplysning om at menneskelig gjennomgang har funnet sted og kontaktinformasjon for spørsmål. Og vedkommende kan be om en beskrivelse av sine egne data som systemet brukte i beslutningen, én gang hver tolvte måned.
I tillegg forbyr forslaget å bruke et automatisert beslutningssystem til å bryte arbeidsretten, til å utlede en ansatts beskyttede status, til å drive prediktiv atferdsanalyse for ansettelsesbeslutninger, eller til å forutse og gripe inn mot en ansatt som bruker sine rettigheter. Gjengjeldelse mot dem som benytter rettighetene, forbys. Tilsynet ligger hos Labor Commissioner, og de sivilrettslige gebyrene er på 500 dollar per overtredelse. Ved undertegning trer bestemmelsene i kraft 1. juli 2027.
McNerneys kontor oppsummerte forslaget i én setning: KI skal forbli et verktøy styrt av mennesker, ikke omvendt.
Klokken er selve nyheten
Forsamlingen avsluttet sesjonen 31. august etter å ha vedtatt rundt tretti KI-relaterte lovforslag, ifølge Transparency Coalition, en interesseorganisasjon som følger sesjonen. To ble undertegnet i juni: AB 2148, som krever at skoleansatte er fysiske personer, og SB 719 om opplysningsplikt ved posisjonssporing av kjøretøy. Resten ligger på guvernørens bord, og han har frist til 30. september med å undertegne eller legge ned veto.
Resten av bunken spenner vidt. AB 1709 ville hindre sosiale medier i å tilby persontilpassede strømmer og automatisk avspilling til barn under 16 år. SB 867 ville holde følgesvennchatboter unna leketøy. SB 928 ville kreve at forelesere ved California State University er mennesker. AB 1883 ville begrense KI-verktøy på arbeidsplassen som overvåker følelsestilstander, og SB 1119 ville oppdatere sikkerhetsvernet rundt chatboter.
Hva man bør følge med på
Avgjørelsene faller innenfor det samme fireukersvinduet, noe som gjør 30. september til datoen å merke seg framfor ett enkelt forslag. For SB 947 følger to ting av en undertegning: ikrafttredelse 1. juli 2027, som gir arbeidsgiverne ni måneders omstillingstid, og spørsmålet om hva det vil si å støtte seg hovedsakelig på et automatisert system, som er der etterlevelsesdiskusjonene begynner. Et veto ville la automatisert beslutningstaking i arbeidslivet i California være regulert bare av eksisterende arbeids- og personvernrett.
