To lover, ett maskineri
Guvernør Gavin Newsom undertegnet 9. september to lover om kunstig intelligens som til sammen bygger det første delstatlige apparatet for revisjon av KI-systemer i USA.
Assembly Bill 1405, skrevet av representanten Rebecca Bauer-Kahan fra Orinda, oppretter et delstatsregister over KI-revisorer og setter krav til uavhengighet, åpenhet og integritet. Senate Bill 813, skrevet av senator Jerry McNerney fra Pleasanton, innfører et rammeverk for uavhengige verifiseringsorganisasjoner som kan vurdere om KI-systemer og modeller følger delstatens lover.
Den ene loven svarer på hvem som får granske. Den andre på hva en gransking er til for. Ingen av dem virker uten den andre, og derfor ble de undertegnet sammen.
Hullet registeret skal tette
KI-revisjon finnes allerede som forretning. Det som ikke har fantes, er en offentlig standard for hvem som teller som revisor, eller noen måte for et selskap, en tilsynsmyndighet eller en domstol å skille en grundig vurdering fra en betalt attest. Et register med krav til uavhengighet er et forsøk på å gjøre den forskjellen lesbar.
“Uavhengige revisorer er avgjørende for at KI skal være trygg for lokalsamfunnene våre og for kritisk infrastruktur”, sa Bauer-Kahan i guvernørens kunngjøring.
En delstat som handler fordi Washington ikke gjør det
McNerney var mer direkte om grunnen. “California tar ledelsen i å vurdere KIs sikkerhetsrisikoer, siden Washington ikke kan eller ikke vil gjøre det”, sa han.
Newsom brukte den samme kunngjøringen til å be den føderale regjeringen innføre nasjonale regler — en regulering som holder teknologiens tempo, men fortsatt gir rom for ansvarlig utvikling. Mønsteret er kjent fra Californias utslipps- og personvernlover: en delstat stor nok til å sette en de facto nasjonal standard gjør det, og ber deretter om å bli erstattet.
Hva man skal følge med på
Substansen ligger nå i gjennomføringen. Et register er ikke sterkere enn uavhengighetstesten sin, og et verifiseringsrammeverk ikke sterkere enn kriteriene granskeren blir bedt om å prøve mot. Følg forskriftene som definerer begge deler, og se om frontlaboratoriene — de fleste med hovedkontor i delstaten — frivillig lar modellene sine gå gjennom før noen krever det.
