Overskriften og første sætning er uenige

Nvidia udgav den 21. oktober på GTC i Berlin et indlæg med overskriften »Google Cloud og NVIDIA annoncerer generel tilgængelighed for NVIDIA Vera Rubin-infrastruktur«. Første sætning lyder: »Generel tilgængelighed for instanserne kommer næste måned, med planlagt udvidelse af tilgængeligheden til Europa.«

Instanserne er altså ikke generelt tilgængelige. Det bliver de i november, med Europa derefter. Det er en helt almindelig forhåndsmeddelelse, og den er kun værd at bemærke, fordi overskriften siger noget andet, og fordi det er overskrifter, der bliver citeret.

Produktet er Google Clouds A5X-instans. Nvidia beskriver den som en kombination af Vera Rubin NVL72-systemer, Nvidias ConnectX-9 SuperNIC, Google Clouds Virgo-net og Google Clouds fjerde generation af væskekøling, rettet mod agentisk inferens og storskala forstærkningslæring. A5X bringer Vera Rubin ind i Google Clouds AI Hypercomputer som et integreret system.

Tallet 960.000

Det tal, der kommer længst væk fra denne meddelelse, er dette: »Google Cloud planlægger at skalere sin Vera Rubin-baserede infrastruktur til så mange som 960.000 Rubin-GPU’er fordelt på flere lokationer.«

Læs det omhyggeligt. Det er en plan, det er et loft — »så mange som« — og det er fordelt på flere lokationer frem for samlet i én klynge. Nvidia giver hverken en dato for at nå dertil eller et tal for, hvor mange Rubin-GPU’er Google Cloud har installeret i dag. Den, der læser 960.000 som en nuværende installation, læser noget, sætningen ikke siger.

Rækker af køleventilatorer i blåt lys inde i et udstyrsrack
Illustration: Google Clouds fjerde generation af væskekøling indgår i A5X-designet. Arkivfoto. panumas nikhomkhai · pexels · Pexels License

Hvem der bruger den

Den navngivne første kunde er Ineffable Intelligence, et London-selskab grundlagt af David Silver, som Nvidia omtaler som skaberen af AlphaGo. Selskabet bruger A5X til storskala forstærkningslæring og til det, det kalder »superlearner«-systemer, der lærer løbende af erfaring.

»Vi bygger superlearners, der hele tiden forbedrer sig gennem deres egen erfaring«, sagde Silver i meddelelsen. »Det kræver både betydelig regnekraft og en tæt forbindelse mellem at skabe erfaring og at træne på den, så hver forbedring hos agenten hurtigt kan forme dens næste erfaring.«

Den anden navngivne bruger er WPP, den London-baserede marketingkoncern, der demonstrerede en referencearkitektur for kreative agenter på A5X med Nvidias Nemotron-modeller og Nvidia OpenShell. Agenterne omsætter samtalebaserede forespørgsler til kreative arbejdsgange i flere trin — videogenerering, opskalering, omstilisering — med menneskelig godkendelse før udførelse. Det resultat, Nvidia rapporterer, er konkret: »I WPP’s indledende test kørte arbejdsbelastninger, der normalt krævede en klynge med flere knuder, på en enkelt A5X-instans.«

Det er et leverandørrapporteret tal fra en partners tidlige test, ikke et uafhængigt resultat, og Nvidia oplyser ikke, hvilke arbejdsbelastninger det drejede sig om, eller hvad flerknude-referencen bestod i.

En hånd tilslutter et strømkabel til et grafikkort inde i en stationær computer
Illustration: Google Cloud planlægger at skalere til så mange som 960.000 Rubin-GPU'er på flere lokationer. Arkivfoto af en stationær maskine, ikke datacenterhardware. Anete Lusina · pexels · Pexels License

Halvdelen om fortrolig databehandling

Samme indlæg bærer en anden meddelelse, der fik mindre opmærksomhed. Google Cloud bliver blandt de første cloududbydere, der tilbyder Nvidias fortrolige databehandling i rackskala på bare metal-instanser som A4X Max, drevet af Nvidia GB300 NVL72. Separat er fortrolig databehandling nu reelt generelt tilgængelig på Google Clouds G4-maskiner med Nvidia RTX PRO 6000 Blackwell Server Edition. Nvidia nævner Vertebrae, Polaris Cloud og Confidential Core AI som kunder på Confidential G4.

Det betyder noget af samme grund som kapacitetstallene. Virksomheder, der lejer frontier-regnekraft, kører i stigende grad egne modelvægte på hardware, de ikke ejer, og fortrolig databehandling i rackskala er den mekanisme, der bygges for at gøre det acceptabelt for en juridisk afdeling.

Nvidia oplyser også, at selskabet sammen med Google Cloud undersøger Nvidia DSX MaxLPS til Vera Rubin-infrastruktur for at forbedre ydelsen per watt og få plads til mere kapacitet inden for datacentrenes eksisterende effektbudgetter — den begrænsning, der i dag styrer de fleste af disse udbygninger.

Det, man skal holde øje med, er tilgængelighedsdatoen i november, og om Google Cloud sætter et tal på installeret Rubin-kapacitet frem for planlagt.