Inceptions Mercury 2.5 för en diffusionsbaserad språkmodell förbi 1 100 tokens i sekunden
Diffusionsmodeller förfinar ett helt utkast parallellt i stället för att skicka ut en token i taget. Det är hela argumentet, och genomströmningssiffran är där det syns.