En anden måde at sige nej på
Anthropic åbnede torsdag for ansøgninger til et verifikationsprogram for biovidenskab, der giver godkendte forskere versioner af Claude med lempede spærringer for biologi og kemi, mod identitetskontrol, institutionelt tilsyn og overvågning bagefter frem for afvisninger i øjeblikket.
Selskabet oplyser, at det allerede har taget snesevis af organisationer ind gennem et program for tidlig adgang, og venter at indskrive hundredvis i den første uge. Adgangen er indtil videre begrænset til en gruppe amerikanske organisationer, og Anthropic siger, at det arbejder på at udvide den.
Problemet, der skal løses, er en velkendt klage inden for lægemiddeludvikling. Spærringer, der er indstillet til at holde en generel assistent væk fra spørgsmål om biologiske våben, afviser også en stor del af almindeligt laboratoriearbejde, og en uberettiget afvisning midt i et forskningsforløb er ikke en mindre irritation — det er grunden til, at et hold holder op med at bruge værktøjet.
To slags tilladelser
Programmet har to niveauer. En tilladelse til standardbrug dækker Mythos 5.1, Opus 5 og Sonnet 5 til det, Anthropic kalder typiske arbejdsgange i biovidenskab: lægemiddeludvikling, forskningsbiologi, klinisk udvikling og produktion. De gives til hold og fornys årligt.
En tilladelse til højrisikobrug er et projektspecifikt tillæg, der fjerner de resterende biovidenskabelige spærringer for arbejde, der stadig blokeres på standardniveauet. De fornys hvert halve år. Anthropic oplyser, at højrisikoniveauet lige nu findes til Opus 5 og Sonnet 5, mens adgangen til Mythos — det mest kapable niveau — fortsat er begrænset i afventning af koordinering med amerikanske myndigheder.
Det sidste er den strukturelle ændring. For det mest krævende biologiarbejde er portvagten ikke længere Anthropics kommercielle skøn alene.
Kontrol i stedet for klassifikatorer
Hver ansøger gennemgår en vurdering af forskningsmæssige kvalifikationer, sikkerhedsstandarder og etisk tilsyn. Adgangen knyttes derefter til de anvendelser, ansøgeren har beskrevet, og Anthropic siger, at selskabet overvåger aktivitet uden for det angivne omfang.
Overvågningsmodellen er den del, sikkerhedsforskere vil skændes om. I stedet for at en klassifikator stopper en forespørgsel, når den kommer ind, gennemgås markeret aktivitet offline, med et opbevaringsvindue på 30 dage for de berørte data. Anthropic siger, at disse data holdes adskilt, ikke bruges til at træne modeller og ikke er tilgængelige for selskabets eget forskningshold inden for biovidenskab.
Det er en afvejning, og Anthropic siger lige ud, at det er det. Afvisning i realtid stopper misbrug ved døren, men stopper meget legitimt arbejde med. Verifikation plus efterkontrol lukker det legitime arbejde igennem og accepterer, at misbrug ville blive opdaget senere frem for forhindret.
Hvor det kører
Programmet er tilgængeligt via Claude Science, Claude.ai, Claude Code og API’et på Enterprise- og Team-planer, med individuelle Pro- og Max-planer senere. Det ligger ved siden af Anthropics eksisterende videnskabsprogrammer, der har tilbudt forskere gratis eller rabatteret adgang frem for andre spærringer.
To ting er værd at følge. Det første er, om andre laboratorier gør det samme: bliver godkendt adgang den normale måde at drive biologi i frontlinjen på, bliver selve kontrolprocessen sikkerhedskritisk infrastruktur, og ingen har endnu offentliggjort, hvor godt en sådan proces holder under pres. Det andet er, hvad de amerikanske myndigheders rolle udvikler sig til. At koordinere, hvem der må bruge Mythos til biologi, er i dag en snæver ordning. Det er også en præcedens.
