To love, ét maskineri
Guvernør Gavin Newsom underskrev den 9. september to love om kunstig intelligens, som tilsammen bygger det første delstatslige apparat til revision af AI-systemer i USA.
Assembly Bill 1405, skrevet af medlemmet Rebecca Bauer-Kahan fra Orinda, opretter et delstatsregister over AI-revisorer og stiller krav til deres uafhængighed, åbenhed og integritet. Senate Bill 813, skrevet af senator Jerry McNerney fra Pleasanton, indfører en ramme for uafhængige verifikationsorganisationer, der kan vurdere, om AI-systemer og modeller overholder delstatens love.
Den ene lov svarer på, hvem der må revidere. Den anden på, hvad en revision er til for. Ingen af dem virker uden den anden, og derfor blev de underskrevet sammen.
Hullet, registret skal lukke
AI-revision findes allerede som forretning. Det, der ikke har fandtes, er en offentlig standard for, hvem der tæller som revisor, eller nogen måde for et selskab, en tilsynsmyndighed eller en domstol at skelne en grundig vurdering fra en betalt attest. Et register med krav om uafhængighed er et forsøg på at gøre den forskel læsbar.
“Uafhængige revisorer er afgørende for, at AI er sikker for vores lokalsamfund og kritisk infrastruktur”, sagde Bauer-Kahan i guvernørens meddelelse.
En delstat, der handler, fordi Washington ikke gør det
McNerney var mere direkte om grunden. “Californien går forrest med at vurdere AI’s sikkerhedsrisici, eftersom Washington ikke kan eller ikke vil gøre det”, sagde han.
Newsom brugte samme meddelelse til at opfordre den føderale regering til at indføre nationale regler — en regulering, der følger teknologiens tempo, men stadig giver plads til ansvarlig udvikling. Mønstret kendes fra Californiens love om udledninger og privatliv: en delstat, der er stor nok til at sætte en de facto national standard, gør det og beder derefter om at blive afløst.
Hvad man skal holde øje med
Substansen ligger nu i gennemførelsen. Et register er ikke stærkere end sin uafhængighedstest, og en verifikationsramme ikke stærkere end de kriterier, vurderingsorganet bliver bedt om at prøve efter. Følg de regler, der definerer begge dele, og se, om frontlaboratorierne — de fleste med hovedsæde i delstaten — frivilligt sender deres modeller igennem, før nogen kræver det.
