Sex granskare med företagets datorer
Anthropic har gett ett team från METR, den ideella organisation som utvärderar frontlinjemodeller, vad bolaget kallar “anställningsliknande tillgång”. Sex METR-anställda har nu hårdvara från Anthropic, kontorsplats och interna verktyg som ungefär motsvarar dem bolagets egna riskbedömningsteam använder, och de kommer att publicera resultaten av sina bedömningar. Anthropic skriver att bolaget inte kan lägga in veto mot de publiceringarna.
Företaget beskriver steget som ett svar på ett problem det själv har skapat: det vill kunna hållas offentligt ansvarigt för sitt säkerhetsarbete, men mycket av underlaget går inte att publicera, antingen för att det skulle hjälpa just dem som skyddet ska stoppa eller för att det är affärskänsligt. Att placera granskare på insidan sluter, enligt Anthropic, glappet mellan vad bolaget vet och vad någon utifrån kan kontrollera. Bolaget jämför med de granskare som banktillsynen placerar inne i bankerna, men påpekar att liknelsen haltar.
Vad granskarna får se — och inte
Tillgången är bred men avgränsad. Anthropic räknar upp tre undantag: kunddata, material som skyddas av advokatsekretess, och detaljer om modellens arkitektur, som bolaget säger har hög läckagerisk och sällan spelar roll för riskbedömning. När arkitekturen ändå är avgörande kan den delas efter uttryckligt internt godkännande.
I fråga om publicering säger Anthropic att bolaget inte kan stoppa det METR skriver, men väl kräva att partier maskas inom snäva, i förväg bestämda kategorier. METR får offentligt säga om en maskning är befogad, utan att röja vad som togs bort. Bara en liten, avtalsbunden grupp inom METR arbetar med uppdraget; resten av organisationen är avskärmad från det.
Tre nivåer, och vilka som sitter på dem
Anthropic har formaliserat tillgången i tre nivåer. Nivå 1 gäller snävt avgränsade undersökningar, där bolaget väljer vad granskaren får se och måste godkänna det som publiceras. Nivå 2 breddar informationen och tar bort godkännandet, men behåller maskningskategorierna. Nivå 3 är METR-upplägget: anställningsliknande tillgång med nivå 2:s publiceringsrätt.
SecureBio ligger på första nivån och granskar kapitlet om kemiska och biologiska vapen i Anthropics riskrapport från augusti, efter att ha publicerat en pilotgranskning av den föregående. Accenture och Faculty förhandlar om ett bredare samarbete som omfattar modellutvärdering, red teaming, alignmentbedömningar, tester av skyddsmekanismer och kompetensuppbyggnad. Hugging Face är en av flera organisationer i tidiga samtal. Anthropic säger sig hoppas att flera granskare med tiden når nivå 3 och var och en publicerar sin egen läsning av bolagets risker.
Ribban Anthropic lägger för sig själv
Bolaget räknar upp fyra saker en granskare behöver: kompetens att bedöma frontlinjemodeller, oberoende — inget aktieinnehav, inget ekonomiskt eller operativt beroende — tillräcklig tillgång för att bedöma träning, skyddsmekanismer och modeller, samt frihet att publicera det den hittar.
Anthropic undertecknade Vita husets överenskommelse om superintelligens, där företagen lovade att arbeta med oberoende externa revisorer, och lovade förra månaden skarpare tredjepartsgranskning. Detta är den första konkreta formen det löftet tar. Bolaget avslutar med att det gör detta frivilligt och att “varje frontlinjeföretag inom AI borde göra samma sak”.
Provet blir vad METR publicerar, och om den första rapporten läser sig annorlunda än dem Anthropic skriver om sig självt. Beskedet säger inget om när den rapporten ska komma.
