Overskriften og første setning er uenige

Nvidia publiserte 21. oktober, på GTC i Berlin, et innlegg med overskriften «Google Cloud og NVIDIA kunngjør allmenn tilgjengelighet for NVIDIA Vera Rubin-infrastruktur». Første setning lyder: «Allmenn tilgjengelighet for instansene kommer neste måned, med planlagt utvidelse av tilgjengeligheten til Europa.»

Instansene er altså ikke allment tilgjengelige. Det blir de i november, med Europa etterpå. Det er en helt vanlig forhåndsmelding, og den er bare verdt å merke seg fordi overskriften sier noe annet, og fordi det er overskrifter som siteres.

Produktet er Google Clouds A5X-instans. Nvidia beskriver den som en kombinasjon av Vera Rubin NVL72-systemer, Nvidias ConnectX-9 SuperNIC, Google Clouds Virgo-nett og Google Clouds fjerde generasjons væskekjøling, rettet mot agentisk inferens og storskala forsterkningslæring. A5X fører Vera Rubin inn i Google Clouds AI Hypercomputer som et integrert system.

Tallet 960 000

Tallet som kommer til å reise lengst fra denne kunngjøringen, er dette: «Google Cloud planlegger å skalere sin Vera Rubin-baserte infrastruktur til så mange som 960 000 Rubin-GPU-er fordelt på flere steder.»

Les det nøye. Det er en plan, det er et tak — «så mange som» — og det er spredt over flere anlegg heller enn samlet i én klynge. Nvidia oppgir verken dato for å nå dit eller hvor mange Rubin-GPU-er Google Cloud har installert i dag. Den som leser 960 000 som en dagens installasjon, leser noe setningen ikke sier.

Rader med kjølevifter i blått lys inne i et utstyrsrack
Illustrasjon: Google Clouds fjerde generasjons væskekjøling inngår i A5X-utformingen. Arkivbilde. panumas nikhomkhai · pexels · Pexels License

Hvem som bruker den

Den navngitte første kunden er Ineffable Intelligence, et London-selskap grunnlagt av David Silver, som Nvidia omtaler som skaperen av AlphaGo. Selskapet bruker A5X til storskala forsterkningslæring og til det det kaller «superlearner»-systemer som lærer kontinuerlig av erfaring.

«Vi bygger superlearners som stadig forbedrer seg gjennom sin egen erfaring», sa Silver i kunngjøringen. «Det krever både betydelig regnekraft og en tett kobling mellom å generere erfaring og å trene på den, slik at hver forbedring hos agenten raskt former dens neste erfaring.»

Den andre navngitte brukeren er WPP, det London-baserte markedsføringskonsernet, som demonstrerte en referansearkitektur for kreative agenter på A5X med Nvidias Nemotron-modeller og Nvidia OpenShell. Agentene gjør samtalebaserte forespørsler om til kreative arbeidsflyter i flere trinn — videogenerering, oppskalering, omstilisering — med menneskelig godkjenning før kjøring. Resultatet Nvidia rapporterer er konkret: «I WPPs innledende tester kjørte arbeidslaster som vanligvis krevde en klynge med flere noder, på én enkelt A5X-instans.»

Det er et leverandørrapportert tall fra en partners tidlige test, ikke et uavhengig resultat, og Nvidia sier ikke hvilke arbeidslaster det gjaldt eller hva flernode-sammenligningen besto i.

En hånd kobler en strømkabel til et skjermkort inne i en stasjonær datamaskin
Illustrasjon: Google Cloud planlegger å skalere til så mange som 960 000 Rubin-GPU-er på flere steder. Arkivbilde av en stasjonær maskin, ikke datasentermaskinvare. Anete Lusina · pexels · Pexels License

Halvdelen om konfidensiell databehandling

Samme innlegg bærer en annen kunngjøring som fikk mindre oppmerksomhet. Google Cloud blir blant de første skyleverandørene som tilbyr Nvidias konfidensielle databehandling i rackskala på bare metal-instanser som A4X Max, drevet av Nvidia GB300 NVL72. Separat er konfidensiell databehandling nå virkelig allment tilgjengelig på Google Clouds G4-maskiner med Nvidia RTX PRO 6000 Blackwell Server Edition. Nvidia nevner Vertebrae, Polaris Cloud og Confidential Core AI som kunder på Confidential G4.

Det betyr noe av samme grunn som kapasitetstallene. Selskaper som leier frontier-regnekraft, kjører i økende grad egne modellvekter på maskinvare de ikke eier, og konfidensiell databehandling i rackskala er mekanismen som bygges for å gjøre det akseptabelt for en juridisk avdeling.

Nvidia sier også at selskapet sammen med Google Cloud undersøker Nvidia DSX MaxLPS for Vera Rubin-infrastruktur, for å bedre ytelsen per watt og få plass til mer kapasitet innenfor eksisterende effektbudsjetter i datasentrene — begrensningen som i dag styrer de fleste av disse utbyggingene.

Det man skal følge med på, er tilgjengelighetsdatoen i november, og om Google Cloud setter et tall på installert Rubin-kapasitet i stedet for planlagt.