Fire uker, godt over tretti modeller
Anthropic publiserte torsdag et arbeid der Claude, inne i selskapets Claude Science-oppsett, skrev om mer enn 30 åpne dyplæringsmodeller brukt i biologi slik at de kjører raskere. Selskapet sier at gjennomsnittlig hastighetsøkning i modeller for strukturprediksjon og design var rundt fire ganger, og at to ansatte uten tidligere erfaring med inferensoptimalisering ledet arbeidet på knappe fire uker.
Resultatet er 36 optimaliserte pakker i seks familier: 14 for samfolding og strukturprediksjon, sju for genomikk, seks for strukturgenerering og tre hver for omvendt folding, hallusinasjon og proteinspråkmodeller.
Hva som ble raskere, og hvor mye
Anthropic beskriver tre moduser. En eksakt modus som gir identiske utdata går rundt 1,6 ganger raskere. En rask modus over 13 modeller går rundt 4,1 ganger raskere. En minnegjerrig modus går rundt 3,4 ganger raskere. Under ligger et eget sett GPU-kjerner selskapet kaller FlashPairformer, som ifølge selskapet slår Nvidias egne cuEquivariance-implementasjoner: 2,7 til 2,9 ganger raskere på triangelattention og 1,7 til 3,2 ganger raskere på triangelmultiplikasjon.
Hvert av disse tallene er Anthropics egen måling, tatt på Nvidias H100-grafikkprosessorer. Ingen utenforstående gruppe har gjentatt dem.
Større molekyler på én enkelt node
Den praktiske endringen er minne. Den minnegjerrige modusen lar én Nvidia-GPU-node forutsi biomolekylære systemer på mer enn 10 000 tokens — aminosyrer, nukleotider og atomene i små molekyler og ioner — og Anthropic sier det kjørte inferens på systemer over 70 000. Selskapet oppgir at det foldet menneskelig mitokondrielt kompleks I, chaperonkomplekset TRiC, proteasomer og bakterielle ribosomer.
Det beskriver også en proteindesignkampanje som nådde sammenlignbare bindingsskårer med tidligere arbeid på omtrent to tierpotenser færre GPU-timer, til rundt 150 dollar i samlet GPU- og tokenkostnad. Anthropic sier rett ut at designene aldri ble testet i et laboratorium, og at skårene er beregnede.
Det som ikke virket
Gjennomgangen fører også opp feilene. Prediksjoner av store viruskapsider kollapset til en kompakt ball med svært lave treffskårer, påpekte Unite.AI. Kodelageret publiseres som en referanseutgivelse selskapet sier det ikke vil vedlikeholde.
En konkurranse som skal avgjøre det ved en laboratoriebenk
Anthropic har åpnet den optimaliserte koden og arrangerer sammen med Adaptyv Bio en konkurranse i proteindesign på fem problemer ved grensen for dagens evne, blant dem kryssreaktivitet mellom arter, pH-følsomhet, peptid-MHC-spesifisitet og mål blant G-proteinkoblede reseptorer. Potten er opptil én million dollar i Claude-kreditter og 250 000 dollar i beregningskreditter fra Modal, med DNA-syntese fra Twist Bioscience og laboratorievalidering av mer enn 5 000 design. Unite.AI oppgir tak per lag på 50 000 dollar for akademiske bidrag og 25 000 for industrien.
Hva man bør følge
Søknadene stenger 24. september og resultatene ventes 15. desember. Det er den andre datoen som betyr noe. Inntil designene kommer tilbake fra en laboratoriebenk, hviler hele påstanden på skårer en datamaskin ga seg selv.
