Ingen variabelkonstruktion, ingen utplattning, ingen träning
Nvidia har släppt Kumo Relational, en förtränad grundmodell som gör förutsägelser direkt på en relationsdatabas. Man kopplar in databasen, skriver en prediktiv fråga i ett språk Nvidia kallar PQL, och modellen samlar upp till 10 000 historiska exempel som kontext och förutsäger utfallet i ett enda framåtsteg.
Det den hoppar över är just den del som normalt tar tid. Att förutsäga kundtapp eller bedrägeri ur en databas med många tabeller innebär vanligen att platta ut tabellerna till en bred fil, handkonstruera variabler ur kopplingarna och träna en modell på dem. Kumo Relational gör inget av det. Den förtränades en gång på syntetiska relationsdata som genererats med en metod Nvidia kallar PluRel, och varje ny uppgift körs med inlärning i kontext i stället för träning. För tidsberoende uppgifter spelas historiska databastillstånd upp igen så att modellen inte kan se framtiden.
Resultaten är Nvidias egna
Nvidia beskriver den som den första fåskottsgrundmodellen som slår övervakad maskininlärning på vanliga relationstester, och siffrorna kommer ur bolagets egen artikel. De har inte reproducerats oberoende.
Utvärderingen omfattar 41 uppgifter över 15 databaser hämtade från RelBench V1 och V2, SAP SALT och 4DBInfer, med data från e-handel, sjukvård, företag, sociala nätverk och akademi, inget av det sett under förträningen. I klassificeringen i RelBench V1 uppger Nvidia att modellen ligger nästan fyra AUROC-punkter före gradientförstärkta träd med expertkonstruerade variabler. I SAP SALT redovisar den en 8 procent bättre genomsnittlig reciprok rang än stora AutoGluon-ensembler, och sju MRR-punkter bättre än XGBoost med konstruerade variabler direkt ur lådan, vilket växer till 13 efter finjustering.
Robusthetssiffrorna är de mer intressanta. Nvidia uppger att modellen fungerar väl med så lite som 0,2 procent av träningsdata som kontext, håller när tre fjärdedelar av främmande nycklar tas bort och knappt försämras när brusiga kolumner läggs till. Det är de villkor verkliga databaser kommer i.
Avvägningen på listan
På listan RelArena-α placerar Nvidia modellen vid ungefär 1 842 i Elo och omkring 17 sekunder per 1 000 stickprov. Posten ovanför, rt-plurel, når 1 878 i Elo och tar omkring 7 300 sekunder för samma arbete, ungefär 430 gånger längre. Det är Paretoargumentet släppet vilar på: ett litet avstånd i träffsäkerhet som köps tillbaka med två och en halv tiopotens i hastighet.
Där den slutar fungera
Nvidia anger gränserna rakt ut. Modellen vill ha data med verkliga samband och tidsdynamik. På uppgifter med mycket stora träningsmängder kan en övervakad modell fortfarande vinna, eftersom förutsägelse i kontext är begränsad till 10 000 exempel i de här testerna. Den prediktiva signalen måste vara nåbar inom ett begränsat antal hopp genom schemat, så dokumentationen rekommenderar att börja med en avgränsad fråga över några få tabeller i stället för att rikta den mot allt.
Koden är Apache 2.0 och installeras som ett Python-paket. Vikterna ligger på Hugging Face under version 1.1 av OpenMDW License Agreement och hämtas vid första användningen. Den kan också köras som en Nvidia NIM.
Vad som är värt att följa är om någon utanför Nvidia reproducerar marginalerna i RelBench. En grundmodell som tar bort variabelkonstruktionen ur företagsprognoser är ett stort påstående, och hittills är den enda part som har prövat det den part som säljer de grafikprocessorer den körs på.
