Aftalen
Anthropic meddelte torsdag, at selskabet har valgt Faculty, Accentures specialiserede AI-enhed, som sin første indlejrede gransker. Faculty skal stå for “at evaluere og red-teame modeller, gennemføre alignmentvurderinger og teste modellernes sikkerhedsforanstaltninger”. Begge selskaber siger, at de forventer at investere mindst en milliard dollar hver over de næste fem år for at opbygge kapaciteten.
Det særlige er adgangen. Eksterne granskere ser i dag typisk en model sent, gennem et API og i et fastlagt vindue. Indlejrede granskere arbejder, som Anthropic beskriver det, inde i selskabet med adgang på niveau med en ansat: de kan følge modellen, mens den formes under træningen, følge de beslutninger, der styrer, hvordan den bygges og sættes i drift, og tale direkte med medarbejderne.
Accenture købte Faculty i januar. Aktien steg omkring 8 procent i eftermarkedet på nyheden.
Første prøve på en meget omtalt idé
Indlejret gransking har været det konkrete forslag midt i en måneds abstrakt diskussion om at sætte tempoet ned. Dario Amodei bad laboratorierne om at holde takten ved fronten sammen; Sam Altman forpligtede OpenAI på indlejrede sikkerhedsgranskere den 13. september; OpenAI, Anthropic og Google DeepMind har i ugevis talt om et selvregulerende standardorgan efter forbillede fra FINRA.
Dette er det første af de løfter, der sætter navn på en modpart og et tal.
Anthropic er klar i mælet om, at aftalen ikke er eksklusiv. Selskabet siger, at det også er i dialog med METR og andre almennyttige organisationer om pilotprojekter for indlejret gransking, som de organisationer selv finansierer.
Indvendingen
Valget overraskede dem, der havde ventet en sikkerhedsforskningsorganisation. Den offentlige debat om indlejrede granskere har handlet om METR, Redwood Research og Apollo Research — små almennyttige aktører, hvis eneste virke er at undersøge modeller. Accenture er et konsulenthus, der lever af at hjælpe virksomheder og myndigheder med at indføre AI, potentielt også Anthropics.
Anthropics svar er, at Accenture bringer praktisk erfaring med at indføre AI i stor skala i store organisationer, og at et børsnoteret selskab, der fandtes længe før den nuværende AI-industri, giver det, Anthropic kalder funktionel uafhængighed af Anthropics eget økosystem.
Kritikere læser ordningen anderledes: et sikkerhedsregime, laboratorierne selv udformer, betaler og bemander, er en måde at komme ansvaret i forkøbet på snarere end at tage det. Anthropic svarer, at “sikkerheden i vores modeller er fortsat vores ansvar”, og at granskere ikke mindsker det ansvar, men gør det kontrollerbart. Coheres topchef Aidan Gomez kaldte i denne uge de tre største laboratoriers standardarbejde for et kartel under et andet navn.
Det, der stadig mangler
Anthropics egen meddelelse er ærlig om hullerne. Der findes endnu ingen standarder for, hvilke oplysninger en indlejret gransker skal have adgang til, eller hvordan den skal rapportere sine fund. Der findes heller ingen fast måde at finansiere uafhængig gransking på: Anthropic betaler indtil videre Accenture direkte og mener, at pengene på sigt bør komme fra fælles eller offentlige kilder, ikke fra den virksomhed, der granskes.
Det er spørgsmålet, aftalen lader stå åbent. En gransker, der betales af det laboratorium, den gransker, har et åbenlyst problem, og begge parter siger det. Californiens dekret af 18. september og FRONTIER-loven i Repræsentanternes Hus forudsætter begge en lovfæstet version af rollen. Om den frivillige udgave når at sætte betingelserne først, er det, man bør følge.
