قراءة المعاملات لا المخرجات
نشر أربعة باحثين في مختبر علوم الحاسوب والذكاء الاصطناعي بمعهد ماساتشوستس للتقنية — ريكيا تاكيهي وجايدن تيو وأليكس زانغ وعمر خطاب — نتائج في الثاني من نوفمبر من ترتيب يسمّونه البرمجة في فضاء الأوزان: يُسلَّم نموذج متقدم، هو GPT-6 Astra من أوبن إيه آي، المعاملات الخام لشبكة أخرى ويُطلب منه تفسيرها أو إعادة كتابتها، دون أي انحدار تدريجي في الحلقة.
تأتي تجارب التفسير أولًا. فبإعطائه 17253 وزنًا لأربع سياسات تعلّم معزّز، سمّى النموذج اللعبة التي تلعبها كل سياسة — بريك آوت، بونغ، باك مان، وفريوي — في الحالات الأربع. وبإعطائه نموذج انتشار من 23824 وزنًا حدّد الشكل الذي يولّده. ومن الكتل التحويلية الأربع الوسطى وحدها في نماذج لغوية بسبعة ملايين ومئتي ألف معامل، حدّد ما إذا كان النموذج دُرّب على بايثون أو الروماجي أو الإنجليزية، وحدّد رؤوس النسخ.
التحرير، والكتابة من الصفر
نتائج التحرير أحدّ. فعلى نموذج Qwen3.5-0.8B يفيد الباحثون أن النموذج حرّر 131072 وزنًا — أي 0.016 في المئة من المعاملات — ومع السماح بخمسين تمريرة أمامية للتحقق من عمله، نقل MATH-500 من 7.9 إلى 48.1 في المئة، وGSM8K من 13.8 إلى 67.1 في المئة، وIFEval من 21.0 إلى 62.3 في المئة. وهبطت نسبة أجوبة MATH-500 التي ترتطم بحدّ المخرجات البالغ 32768 رمزًا من 93 إلى 33.1 في المئة، ما يرجّح أن التحرير منع النموذج أساسًا من الدوران في حلقة.
وفي مهمة تحكم فيزيائية، أنتج تحرير 3.5 في المئة من شبكة بـ171664 وزنًا سياسةً نجحت في كل الحلقات الاختبارية الـ1024، في حين لم تنجح الشبكة الأصلية في أي من 256 حلقة. وانطلاقًا من أوزان كلها أصفار، سجّلت شبكات كُتبت في محاولة واحدة 517.4 في بريك آوت، مقابل 15.8 لعميل انحدار سياسي دُرّب على مئة مليون خطوة و25.3 عند خمسمئة مليون. وفي غو 9x9، فازت شبكة بـ1.48 مليون وزن كُتبت دون أي تمريرة أمامية بأكثر من نصف مبارياتها أمام شبكتين مدرَّبتين أصغر؛ وبخمسين تمريرة هزمت شبكة بالحجم نفسه دُرّبت على عشرين مليون مباراة.
حيث فشل
يعرض التقرير نتائجه السلبية أيضًا. فحين طُلب منه تمييز نموذج Gemma 3 270M المتزلّف من الأوزان وحدها لم يقدر؛ ولم ينجح إلا بعد السماح له بفحص أنماط الانتباه. وعلى Gemma 3 270M، الذي يقول الباحثون إنه قلّما يدور في حلقة، لم تحقق طريقة التحرير أي مكسب ذي معنى: فقد انتقل MATH-500 من 6.8 إلى 7.7 في المئة على الأكثر. وهذا النمط يتوافق مع رقم حدّ الرموز: فالمكاسب الكبيرة جاءت حيث كانت هناك حلقات يمكن إزالتها.
كل الأرقام هنا من الباحثين أنفسهم، مقيسة بنموذج بنته أوبن إيه آي، ولم يُعد إنتاج أي منها بصورة مستقلة.
ما يُنتظر
إن صمدت الطريقة خارج هذا التقرير فإنها تقطع في اتجاهين معًا. فهي أداة تفسيرية جديدة: نموذج يقرأ معاملات نموذج آخر ويقول ما تفعله. وهي أيضًا نتيجة قدرة: فالوصول نفسه يتيح للنموذج تغيير السلوك على مقياس مئة ألف وزن دون تدريب. والخطوة المفيدة التالية هي تكرار التجربة على نماذج لم يخترها الباحثون.
