टेनसेंट-समर्थित नेवAI ने 309 अरब पैरामीटर का मॉडल खोला है, जिसमें पूर्ण अटेंशन की एक भी परत नहीं है
Naive-N0.5-Flash की हर परत 128 टोकन की स्लाइडिंग विंडो है या 2,048 टोकन का स्पार्स चयन, फिर भी प्रयोगशाला दस लाख टोकन की मूल संदर्भ खिड़की का दावा करती है। एक सप्ताह पहले उसके पास कोई मॉडल नहीं था।