Googles kretsar lämnar Googles byggnader

Google Cloud och Oracle meddelade den 27 oktober att Googles tensorprocessorer ska installeras i Oracle Cloud Infrastructure, vilket gör OCI till, med inläggets ord, “den första hyperskalaren utanför Google som erbjuder TPU:er”. Utrullningen av TPU-kapacitet på OCI inleds under kalenderåret 2027.

Inlägget är undertecknat av Karan Batta, senior vice president på Oracle Cloud Infrastructure, och Gurmeet Goindi, senior director för produkthantering på Google. Det innehåller inga direkta citat och inga kommersiella villkor. Det säger inte vilken TPU-generation Oracle ska köra, hur många kretsar, i vilka regioner, till vilket pris eller vad uppgörelsen är värd för någondera parten.

Vad vardera sidan bidrar med

Arbetsfördelningen går att läsa ut ur de fördelar inlägget räknar upp snarare än ur ett uttryckligt besked. Google bidrar med TPU-systemen — samdesignat kisel, optiska nät, vätskekylning och kompilatormjukvara — tillsammans med TorchTPU, bolagets PyTorch-nativa stack för TPU:er, som nu släppts som öppen källkod på GitHub med stöd för vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face och LiteRT.

Oracle bidrar med byggnaderna, kraften och kylningen, beskrivna som AI-täta datahallar byggda för direkt vätskekylning på rackskala, och med nätverket som binder samman TPU-kapaciteten med allt annat i OCI. Det nätverket är Oracle Acceleron: ett SmartNIC med hyresgästisolering på hårdvarunivå, en högpresterande väv och paketdirigering enligt nolltillit. Trafiken mellan TPU:er stannar på Googles egen sammankoppling och optiska kretskoppling; Acceleron sköter trafiken mellan TPU-klustren och Oracles databaser och lagring.

Isolatorer och ställverk vid en transformatorstation mot blå himmel
Utrullningen av TPU-kapacitet på OCI börjar 2027. Illustrativ bild. Phil Evenden · pexels · Pexels License

Siffrorna som faktiskt står i inlägget

Prestandasiffrorna är mer historielektion än specifikation. Inlägget noterar att den första TPU:n levererade 92 teraflops och trettio gånger genomströmningen per watt jämfört med samtida processorer, och att åttonde generationen når upp till 12,6 petaflops nativ FP4-beräkning per krets — över hundra gånger TPU v1 — med upp till dubbelt så hög prestanda per watt som föregående generation. Det anger över 97 procents nyttoutbyte över tusentals kretsar vid stora träningskörningar, upp till 80 procent bättre prestanda per dollar för servering med låg latens i senaste generationen, och en sammankopplingstopologi som mer än halverar antalet nätverkshopp.

Ingen av dessa siffror är knuten till den hårdvara Oracle faktiskt ska installera, eftersom inlägget aldrig namnger den. Åttonde generationen beskrivs som Googles senaste, inte som den som går till OCI.

Oracle samlar på acceleratorer

TPU-uppgörelsen är en av flera. SiliconANGLE rapporterade att Oracle också avser att installera Cerebras skivstora acceleratorer och OpenAI:s inferensprocessor Jalapeño, och tillskriver de planerna CNBC samtidigt som det noterar att ingen av dem är bekräftad som slutgiltig. Oracles argument är att kunderna kan välja arkitektur utan att lämna det moln där deras företagsdata redan ligger: finjustering och inferens bredvid Oracles databaser i stället för en överföring mellan moln.

Lösa nätverkskablar som hänger bakom serverrack i ett blåbelyst rum
Oracle Acceleron kopplar TPU-klustren till resten av OCI. Illustrativ bild. panumas nikhomkhai · pexels · Pexels License

Vad man ska följa

Det första att leta efter är en generation och ett antal. En flerårig uppgörelse som börjar 2027 har mer än ett år på sig att skaffa båda, och till dess går affärens kommersiella form inte att bedöma utifrån. Det andra är om TorchTPU som öppen källkod verkligen låter team flytta arbetslaster mellan acceleratorer utan att skriva om modellkoden, vilket är det portabilitetsargument hela beskedet lutar sig mot och som kan prövas först när TPU:er på OCI finns tillgängliga.