Vægtene er ude
Reflection udgav Beams vægte på Hugging Face under en Apache 2.0-licens den 16. oktober, elleve dage efter at modellen blev præsenteret uden dem. Udgivelsen rummer også tokeniseringsværktøjet, en referenceimplementering, et modelkort med de endelige resultater og en særskilt teknisk sikkerhedsrapport. Vægtene kommer i BF16, FP8 og NVFP4 sammen med en udkastmodel til spekulativ afkodning.
Beam er en tynd blanding af eksperter med 501 milliarder parametre i alt og 23 milliarder aktive. Apache 2.0 tillader kommerciel brug, ændring og videredistribution med licensens krav om angivelse, hvilket placerer den i den tilladende ende af skalaen for åbne vægte og ikke under de skræddersyede licenser, flere konkurrerende udgivelser bærer.
Hvad der skal til for at køre den
De tre præcisioner findes, fordi de rammer forskellig hardware. Amazons egen tekst, udgivet samme dag, oplyser, at Beam er tilgængelig via SageMaker JumpStart i regionerne Nordvirginia og Ohio, og anbefaler instanserne ml.p5.48xlarge med H100 eller ml.p5e og ml.p5en med H200 til FP8 og ml.p6-b200.48xlarge med B200 til NVFP4. BF16 kræver et opsæt over flere noder på grund af hukommelsesbehovet. AWS gentager Reflections tal om en effektiv kontekstlængde på én million tokens og tilskriver det Reflection.
Uden for skyen nævner Reflection egen drift og partnerendepunkter med installation lokalt og i lukkede net gennem Dell og HPE. Det er den opsætning, erhvervs- og offentlige købere beder om, og det, en model, der kun findes via API, ikke kan tilbyde til nogen pris.
Træningsregningen
De mest slående tal i teksten handler ikke om modellen, men om hvad den kostede at lave. Reflection oplyser, at selskabet kørte omkring 1,3 milliarder sandkasser i alt i forstærkningslæring, evaluering og ablationer. Den sidste kørsel af forstærkningslæring toppede på 883.006 virtuelle processorer fordelt på 23 klynger hos Google Cloud og AWS.
Resultaterne, og det der mangler
Teksten om tilgængeligheden har ingen egen resultattabel og henviser til modelkortet. Hvert tal dér er Reflections, lavet af Reflection. Selskabets argument siden præsentationen den 5. oktober har været effektivitet ved kørsel frem for topydelse: det sagde dengang, at Beam var på højde med GLM 5.2 med en fjerdedel af regnekraften ved kørsel.
Det, teksten tilbyder i stedet, er anekdoter. En pagode bygget af en bruger tog 12.600 tokens og 117 sekunder. En Snake-implementering blev færdig på 2 minutter og 19,7 sekunder mod 4 minutter og 56,4 sekunder for en sammenligningskørsel. Det er fremvisninger, ikke målinger, og Reflection fremstiller dem sådan.
Prisen nævnes ingen steder i teksten. Platformen beskrives som gratis at begynde med under den åbne beta, hvilket lader spørgsmålet om, hvad det koster at bruge den via Reflection frem for at køre den selv, stå åbent.
Hvad man skal følge
Reflection oplyser, at opskrifter til selvdestillation, der ifølge selskabet hæver tokeneffektiviteten på brugerens egne opgaver, kommer “i løbet af de nærmeste dage”. Den tungere prøve er, om uafhængige evaluatorer kører modelkortets tal igennem igen, nu hvor enhver kan hente vægtene og prøve, hvilket trods alt er pointen med at udgive dem.
