En terskel selskapet satte selv
Anthropic meldte til det amerikanske finanstilsynet SEC 2. november at selskapet kan være i ferd med å krysse en grense det selv har trukket i sin egen sikkerhetspolicy. I endring nr. 1 til skjema S-1 skriver selskapet at interne anslag og forventninger til framtidige modeller, ikke dagens modeller, tyder på at det snart kan oppfylle definisjonen av “dramatisk akselerert framgang som kan tilskrives KI” i selskapets Responsible Scaling Policy. Selskapet legger til at ingen nåværende modell er klassifisert som over terskelen, og at det fortsetter å vurdere grunnlagsdataene.
Prospektet er uvanlig åpent om selskapets evne til å se akselerasjonen komme. Det meste av grunnlaget om takten i KI-drevet framgang kommer, ifølge selskapet, fra etterslepende indikatorer, og derfor har det tidligere ikke identifisert, og kan i framtiden ikke identifisere, en betydelig akselerasjon i utviklingstakten før den har funnet sted.
Hva det første prospektet ikke sa
Anthropic leverte sitt opprinnelige S-1 26. oktober. Den versjonen beskrev hvordan hver Claude-modell brukes til å bygge den neste, kalte dynamikken “closing the loop” og bemerket at risikoen dekkes av selskapets Responsible Scaling Policy etter hvert som det nærmer seg det som er kalt “rekursiv selvforbedring”. Der sluttet avsnittet.
Endringen utvider det. Anthropic skriver nå at selskapet ikke venter å kunne bruke Claude trygt til helt autonomt å utforme og bygge etterfølgende generasjoner av frontmodeller uten meningsfull menneskelig tilsyn eller forståelse, hvis og når det blir teknisk mulig, og at det vurderer å oppdatere sin Responsible Scaling Policy for å holde mennesker ved kontrollen over utviklingen av frontmodeller. Verken ordet “snart” eller formuleringen om å holde mennesker ved kontrollen finnes i oktoberversjonen.
895,4 milliarder dollar der det første utkastet hadde et hull
Endringen fyller også inn tall det opprinnelige prospektet lot stå som tomme dollartegn. Per 30. september 2026 og senere oppgir Anthropic å ha inngått innkjøpsforpliktelser og leieavtaler, inkludert leieavtaler som ennå ikke er påbegynt, med et samlet bundet beløp på om lag 895,4 milliarder dollar, nesten alt knyttet til beregningskraft og infrastruktur. Rundt 447,5 milliarder faller før 31. desember 2030, mesteparten av resten mellom 2031 og 2045, og 69,8 milliarder forfaller innen tolv måneder etter 30. september.
Mot det står de kontraktsfestede inntektene i samme dokument: 13,8 milliarder dollar i gjenstående ytelsesforpliktelser, der selskapet venter å inntektsføre rundt 75 prosent innen ett år. Inntektene nådde 17,0 milliarder dollar i kvartalet til 30. september, opp fra 1,4 milliarder året før, med et driftstap på 567 millioner og en driftsmargin på minus 3 prosent.
Å følge med på
Anthropic sier det vil publisere flere rapporter, slik Responsible Scaling Policy krever, når selskapet har vurdert konsekvensene av å nå kapasitetsterskelen for KI-forskning og -utvikling. Enhver revisjon av policyen, og enhver beslutning om å klassifisere en modell som over grensen, blir den første konkrete prøven på formuleringer selskapet nå har lagt fram for framtidige aksjonærer.
