En enda bild av maskinen

Nvidia har lanserat Minerva, en AIOps-plattform för vad bolaget kallar AI-fabriker: de mycket stora GPU-kluster som tränar och kör frontmodeller. Den släpptes på torsdagen, tidsatt till GTC Berlin.

Argumentet är sammanslagning. Minerva samlar signaler från Nvidias grafikprocessorer, nätverk, lagring, schemaläggare och själva arbetslasterna, så att nätverkslaget, beräkningslaget, driftsäkerhetsingenjörerna och maskininlärningsingenjörerna alla ser samma bild. Den bygger en dynamisk kunskapsgraf över grafikprocessorer, SuperNIC-kort, switchar, kablar och de jobb som körs över dem, vilket är det som låter en operatör spåra en långsam träningskörning tillbaka till den komponent som orsakar den.

Knippen av turkosa fiberoptiska kablar inkopplade i en nätverksswitch
Illustration: plattformen bygger en graf över grafikprocessorer, SuperNIC-kort, switchar och kablar. Arkivbild. Brett Sayles · pexels · Pexels License

Vad den gör med data

Ovanpå den grafen kör Nvidia övervakad och oövervakad maskininlärning: lär sig hur det normala ser ut, flaggar avvikelser den inte sett förut, förutsäger fel under uppsegling och kopplar samman relaterade händelser med hjälp av fabrikens egen topologi. I stället för en vägg av lösryckta larm grupperar plattformen en händelsestorm till ett enda ärende med en trolig grundorsak.

Det finns också en inbyggd assistent med ett naturligt språkgränssnitt förankrat i levande telemetri, som föreslår åtgärder. Rättningar kan läggas in för hand eller automatiseras via infrastrukturens API:er. Plattformen kopplar dessutom till externa agentiska AI-verktyg.

Nvidia ramar in alltihop kring ett mått bolaget kallar AI-fabriksutbyte — det nyttiga arbete infrastrukturen producerar, mätt i GPU-timmar, goodput, klustrets drifttid och tokenproduktion.

Siffrorna i inlägget handlar om indata

Nvidia uppger att Minerva analyserar miljarder datapunkter i timmen och är byggd för fabriker med hundratusentals grafikprocessorer. Det är de enda siffror lanseringsinlägget bär på.

Vad det inte bär på är ett resultat. Ingen procentuell förbättring av drifttiden, ingen minskning av genomsnittlig reparationstid, ingen uppmätt förändring i goodput vid någon namngiven anläggning. Nyttan beskrivs kvalitativt: längre tid mellan avbrott, snabbare reparation, bättre överblick genom filtrering. För en produkt vars hela värdeerbjudande är att hitta den ena trasiga komponent som bromsar ett kluster är frånvaron av en enda före-och-efter-siffra det iögonfallande i tillkännagivandet.

En person med en bärbar dator i en korridor intill ett serverrum med glasväggar
Illustration: Minerva grupperar händelsestormar till enskilda ärenden med en trolig grundorsak. Arkivbild. Christina Morillo · pexels · Pexels License

Vilka som står på listan

IREN anges som användare av Minerva i dag. Denis Skrinnikoff, bolagets teknikchef, sade att den ger driftlaget en enda vy över nätet, grafikprocessorerna och jobben som körs på dem, och låter dem lägga mer tid på förebyggande underhåll än på felsökning.

De bolag som enligt Nvidia planerar att driftsätta den är Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI och Tesla. Dell Technologies, Lenovo och Supermicro kommer att erbjuda den i sina AI-fabrikssortiment. Teslas närvaro är namnet som sticker ut, med tanke på storleken på de kluster bolaget kör för att träna självkörning.

Nvidia uppgav inget pris. Vad som är värt att följa är om någon av de nämnda operatörerna publicerar en utbytessiffra före och efter — det enda belägg lanseringen inte levererade.