Seks evaluatorer med firmaets computere
Anthropic har givet et hold fra METR, den nonprofitorganisation der evaluerer frontlinjemodeller, det selskabet kalder “medarbejderlignende adgang”. Seks METR-ansatte har nu hardware fra Anthropic, kontorplads og interne værktøjer, der nogenlunde svarer til dem, selskabets egne risikovurderingshold bruger, og de vil offentliggøre resultaterne af deres vurderinger. Anthropic skriver, at selskabet ikke kan nedlægge veto mod de offentliggørelser.
Selskabet beskriver skridtet som svar på et problem, det selv har skabt: det vil kunne holdes offentligt ansvarligt for sit sikkerhedsarbejde, men en stor del af dokumentationen kan ikke offentliggøres, enten fordi den ville hjælpe præcis dem, sikringen skal stoppe, eller fordi den er forretningsfølsom. At placere evaluatorer på indersiden lukker ifølge Anthropic hullet mellem det, selskabet ved, og det, nogen udefra kan kontrollere. Selskabet sammenligner med de tilsynsførende, banktilsynet placerer inde i bankerne, men bemærker at sammenligningen halter.
Hvad evaluatorerne må se, og hvad de ikke må
Adgangen er bred, men afgrænset. Anthropic nævner tre undtagelser: kundedata, materiale beskyttet af advokathemmelighed, og detaljer om modellens arkitektur, som selskabet siger har høj lækagerisiko og sjældent betyder noget for en risikovurdering. Når arkitekturen alligevel er afgørende, kan den deles efter udtrykkelig intern godkendelse.
Om offentliggørelse siger Anthropic, at selskabet ikke kan blokere det, METR skriver, men godt kan kræve, at passager sløres inden for snævre, på forhånd fastlagte kategorier. METR må offentligt sige, om en sløring er berettiget, uden at røbe hvad der blev fjernet. Kun en lille, kontraktbundet gruppe i METR arbejder med aftalen; resten af organisationen er afskærmet fra den.
Tre niveauer, og hvem der sidder på hvert af dem
Anthropic har formaliseret adgangen i tre niveauer. Niveau 1 dækker snævert afgrænsede undersøgelser, hvor selskabet vælger, hvad evaluatoren ser, og skal godkende det, der offentliggøres. Niveau 2 udvider informationen og fjerner godkendelsen, men beholder sløringskategorierne. Niveau 3 er METR-ordningen: medarbejderlignende adgang med niveau 2’s udgivelsesret.
SecureBio ligger på første niveau og gennemgår kapitlet om kemiske og biologiske våben i Anthropics risikorapport fra august, efter at have offentliggjort en pilotgennemgang af den forrige. Accenture og Faculty forhandler om et bredere samarbejde, der dækker modelevaluering, red teaming, alignmentvurderinger, test af sikringsforanstaltninger og kompetenceopbygning. Hugging Face er blandt flere organisationer i tidlige samtaler. Anthropic siger, det håber, at flere evaluatorer med tiden når niveau 3 og hver offentliggør deres egen læsning af selskabets risikobillede.
Den målestok Anthropic lægger på sig selv
Selskabet nævner fire ting, en evaluator har brug for: kompetence til at vurdere frontlinjemodeller, uafhængighed — ingen ejerandel, ingen økonomisk eller driftsmæssig afhængighed — tilstrækkelig adgang til at vurdere træning, sikringsforanstaltninger og modeller, og frihed til at offentliggøre det, den finder.
Anthropic underskrev Det Hvide Hus’ aftale om superintelligens, hvor selskaberne lovede at arbejde sammen med uafhængige eksterne revisorer, og lovede sidste måned skarpere tredjepartsvurdering. Dette er den første konkrete form, det løfte har taget. Selskabet slutter med, at det gør dette frivilligt, og at “alle frontlinjevirksomheder inden for AI burde gøre det samme”.
Prøven bliver, hvad METR offentliggør, og om den første rapport læses anderledes end dem, Anthropic skriver om sig selv. Meddelelsen siger intet om, hvornår den rapport kommer.
