Rundan

Positron AI har tagit in 875 miljoner dollar till en värdering på 5 miljarder dollar efter investeringen, meddelade chipbolaget från Reno i Nevada den 10 september. Pengarna kommer i två delar: en C-runda på 375 miljoner dollar till en värdering på 3,5 miljarder före investeringen, och en C-1-runda på upp till 500 miljoner dollar.

NEA, Atreides Management, Valor Equity Partners, Andra Capital och SemiAnalysis Capital ledde C-rundan tillsammans. NEA och Netscapes medgrundare Jim Clark ledde C-1-rundan. Bland övriga investerare finns DFJ Growth, Qatar Investment Authority, Hudson River Trading, Cisco Investments och Naver Ventures. Forest Baskett från NEA, Gavin Baker från Atreides, Thomas Jermoluk från Jim Clark Office och Dylan Patel tar plats i styrelsen.

Priset har stigit snabbt. I februari tog Positron in 230 miljoner dollar till en värdering på 1 miljard dollar, i en runda ledd av Arena Private Wealth, Jump Trading och Unless. Den nya rundan värderar bolaget fem gånger högre, påpekade Quartz.

Rader av serverrack i en gång i ett datacenter
Positron säger att över 50 rack av dess första generations Atlas-system håller på att installeras hos Oracle Cloud Infrastructure. Christina Morillo · pexels · Pexels License

Minne före beräkningskraft

Positrons tes är att inferens begränsas av minnet, inte av räknekraften. För att köra en stor språkmodell måste dess vikter läsas ur minnet för varje genererad token, så minneskapaciteten avgör hur stor modell som ryms på ett chip och minnesbandbredden hur snabbt den svarar. Nvidias datacenter-GPU:er använder högbandbreddsminne (HBM), som kräver avancerad kapsling.

Asimov, Positrons nästa chip, använder i stället LPDDR5X, den typ av minne som sitter i mobiler och bärbara datorer. Det får mellan 288 GB och 2 304 GB per chip, enligt bolaget, som säger att valet låter det undvika bristen på HBM och avancerad kapsling. Som SiliconANGLE påpekar är LPDDR5X billigare och lättare att få tag på än HBM, men har betydligt lägre bandbredd. Positrons svar är utnyttjandegraden: bolaget säger att dess system använder mer än 90 procent av den tillgängliga minnesbandbredden, medan de flesta AI-acceleratorer använder mindre än 30 procent av sitt HBM.

Det påståendet bär hela konstruktionen, så räkneexemplet spelar roll. The Register räknade i februari ut att Nvidias Rubin-GPU har 288 GB HBM4 med 22 TB/s i toppbandbredd, mot ungefär 3 TB/s för Asimov. Även vid 30 procent av toppen skulle Rubins minne enligt den uppskattningen fortfarande vara ungefär 2,4 gånger snabbare. Asimovs styrka, om den håller, ligger i kapacitet per chip och kostnad, inte i rå hastighet.

Tre produkter, en i drift

Atlas, Positrons första generations system, är den produkt som levereras. Över 50 rack håller på att installeras hos Oracle Cloud Infrastructure, där inferensleverantören Parasail använder kapaciteten; Jump Trading och i3d.net är också kunder i produktion, enligt bolaget. Atlas använde HBM, enligt The Register, så det är inget fungerande exempel på LPDDR5X-konstruktionen.

Asimov ska vara färdigkonstruerat (tape-out) på TSMC:s N3P-process i slutet av 2026, med produktion under andra halvåret 2027. I februari sa vd Mitesh Agrawal till SiliconANGLE att chipet skulle levereras i början av 2027. Titan kombinerar fyra till åtta Asimov-chip i en nod och är enligt Positron avsett för modeller med över 16 biljoner parametrar och kontextfönster på över 10 miljoner tokens.

Närbild av ett processorchip på ett kretskort
Asimov byter högbandbreddsminne mot LPDDR5X, den typ av minne som används i mobiler och bärbara datorer. Miguel Á. Padriñán · pexels · Pexels License

Positron hävdar också att ett enda Titan-rack kan bearbeta upp till 26 gånger fler tokens per dollar än Nvidias GB300 NVL72, en siffra som enligt SiliconANGLE bygger på simuleringar. Det finns ännu inget Asimov-kisel att mäta den mot.

Vad pengarna går till

Pengarna ska betala tape-out av Asimov, ett datacenter för utveckling och emulering på över 2 MW, och produktionsupptrappningen av Titan, inklusive LPDDR5X-leveranser, produktionskapacitet och systemintegration. ”Hastighet spelar roll på den här marknaden, både i hur snabbt vi levererar nya generationer kisel och i hur snabbt de når kunderna”, sa Agrawal.

Att hålla koll på

Tape-out-datumet är det första skarpa provet. Produktionen har redan flyttats från början till slutet av 2027, och en försening efter årsskiftet skulle skjuta den ännu längre fram. Därefter är frågan om oberoende mätningar av Asimov bekräftar den utnyttjandegrad för bandbredden som konstruktionen vilar på. SemiAnalysis Capital, en av C-rundans ledare, drivs av analytikern Dylan Patel, som nu också sitter i Positrons styrelse.