Rundan
Cornelis Networks har tagit in 205 miljoner dollar i en runda ledd av IAG Capital Partners. Bolaget, som knoppades av från Intel 2020, använde beskedet vid AI Infra Summit i Santa Clara för att visa en arkitektur som kallas Active Compute Fabric och ett strategiskt samarbete med Qualcomm, rapporterade SiliconANGLE.
Cornelis säljer en öppen nätverksarkitektur som fungerar med olika GPU:er och acceleratorer i stället för en enda tillverkares chip, enligt TechCrunch, vilket gör bolaget till en konkurrent till Nvidia. Värderingen och övriga investerare offentliggjordes inte. Bolaget levererar redan produkter, och TechCrunch skrev att en ny generation väntas senare i år.
Vad nätverket ska göra
I de flesta AI-kluster flyttar nätverket data mellan acceleratorer och gör inget mer. Cornelis vill att nätverket ska utföra arbete medan datan är på väg. “Datan kommer inte fram i samma form som den skickades”, sade marknadschefen Brandon Draeger till SiliconANGLE.
Enligt bolaget kan nätverket sätta ihop data i KV-cachen, samordna fördelningen till experter i modeller med expertblandning och snabba upp kollektiva operationer innan datan når fram. Målet är att minska tiden som GPU:erna står och väntar.
Siffrorna bakom erbjudandet är Cornelis egna. Draeger sade att acceleratorer i stora AI-installationer normalt utnyttjas till omkring 50 procent av den installerade kapaciteten. Bolaget uppgav att simuleringar före produktion visar att nättrafiken minskar med upp till 50 procent. Det är simuleringar, inte mätningar i en kunds kluster, och inga oberoende resultat har publicerats.
“AI-infrastrukturen har nått en punkt där snabbare ändpunkter inte längre räcker. Nätverket måste bli en aktiv del av beräkningssystemet”, sade vd Lisa Spelman.
Qualcomm-delen
Cornelis och Qualcomm befinner sig “i långt framskridna stadier av gemensam teknikutvärdering med fokus på inferens i rackskala, i både scale-up- och scale-out-miljöer”, rapporterade SiliconANGLE. Scale-up kopplar ihop acceleratorer i ett rack så att de fungerar som ett system; scale-out kopplar ihop rack med varandra. Inget av bolagen nämnde någon produkt eller något datum.
Därför är nätverket en stridsfråga
Nvidia säljer både acceleratorerna och en stor del av nätverken som binder ihop dem, och bolaget breddar sin räckvidd. Förra veckan meddelade d-Matrix att det ska använda Nvidias NVLink Fusion för att koppla ihop sina egna Raptor-acceleratorer i rackskala. Cornelis satsar på att kunder som blandar chip från flera leverantörer vill ha ett nätverk som inte är knutet till någon av dem.
Att hålla ögonen på
Nästa milstolpar är den nya produktgeneration som TechCrunch uppger väntas senare i år, och om utvärderingen med Qualcomm blir en namngiven produkt. Det viktigaste påståendet, att bearbetning i nätverket höjer GPU-utnyttjandet, behöver siffror från ett kluster i drift för att kunna prövas.
