نموذجان بلا مخرجات نصية

أصدرت كلاودفلير نموذجي كليف وكليف-فلاش، وهما نموذجا قرار لا يولّدان نصًا على الإطلاق. وفي منشور بتاريخ 1 أكتوبر قالت الشركة إن كليهما مفتوح الأوزان برخصة أباتشي 2.0 على هاغينغ فيس ومستضاف على منصتها ووركرز إيه آي، وإن كليهما متوافق على مستوى الواجهة مع جيف سيستم ون من تايبسيف إيه آي، النموذج الذي أنشأ هذه الفئة قبل أسابيع.

يتلقى نموذج القرار حالة مُدخلة ومجموعة أسئلة مُصنَّفة، ويعيد احتمالًا لكل إجابة مسموح بها. مثال كلاودفلير رسالة دعم فني: هل هي عاجلة، أي فريق يتولاها، ما درجة الأثر. والمخرج سجل مُهيكل من الاحتمالات يمكن للبرنامج المُستدعي أن يتصرف بناءً عليه دون أن يقرأه أحد.

كيف بُني

يجمّد كليف أساس كوين3.8-27B، ويجمّد كليف-فلاش أساس كوين3.5-9B، مع محوّلات منخفضة الرتبة من الرتبة 256 ورأس توجيه مُدرَّب فوقهما. وعند الاستدلال يجري الأساس تمريرة تعبئة مسبقة فقط، ثم يسجّل النموذج الخيارات الصالحة في المخطط على التوازي. لا شيء يُنتَج رمزًا بعد رمز، ومن هنا تأتي السرعة.

مطوّر برمجيات يعمل على مكتب فيه شاشتان
تعيد النماذج احتمالات مُصنَّفة يتصرف بناءً عليها البرنامج المُستدعي. صورة توضيحية. ThisIsEngineering · pexels · Pexels License

درّبت كلاودفلير أيضًا بخسارة براير إلى جانب الإنتروبيا المتقاطعة المُنعَّمة لمعايرة الاحتمالات، وبطريقة تسميها التعلّم المعزَّز للقرارات المعايَرة، التي تمنح رصيدًا جزئيًا للإجابات الترتيبية المجاورة. وثمة فرقان واضحان عن جيف: لكليف مُرمِّز بصري يتيح تصنيف الصور، وهو ما لا يفعله جيف اليوم، ونافذة سياق تبلغ 64 ألفًا مقابل 32 ألفًا لجيف.

الأرقام، ولمن هي

كل الأرقام أدناه لكلاودفلير وقاستها كلاودفلير. في الجدول المكوّن من عشرة صفوف الذي نشرته عن مؤشر جيف للقرارات، يسجّل نموذج من عائلة كليف أعلى نتيجة في سبعة صفوف — منها 94.20 في ماكرو-F1 على بانكينغ77 مقابل 79.74 لجيف، و97.73 على مجموعة أجهزة منزلية مقابل 52.27 لجيف. ويتصدر جيف في وين2كول وبرايت، ويتصدر ديفيوجن جيما جيف في فيش إن تشيبس.

كابلات ألياف بصرية موصولة بمبدّل شبكة
يعمل كليف وكليف-فلاش على شبكة كلاودفلير الطرفية. صورة توضيحية. Brett Sayles · pexels · Pexels License

وفي زمن الاستجابة عبر 43 تشغيلًا اختباريًا، تذكر كلاودفلير وسيطًا قدره 209.3 ميلي ثانية لكليف و38.8 لكليف-فلاش، مقابل 524.1 لجيف. وثمة منافس اسمه لايا أسرع بعد، عند 5.8 ميلي ثانية وسيطًا، لكن جدول كلاودفلير نفسه يمنحه 38.13 حيث تتجاوز نماذج كليف 98، وزمن استجابته عند الشريحة 95 أسوأ من كليف-فلاش. وعلى حزمة التقييم الخاصة بتايبسيف، تقول كلاودفلير إن كليف تفوّق على جيف في ثلاثة من أربعة مسارات عمل، وخسر في مراقبة آثار الوكلاء.

والنتيجة الداخلية الجديرة بالتكرار جاءت من فريق استخبارات التهديدات في كلاودفلير، الذي يستخدم كليف لتصنيف النطاقات: 2.2 ثانية لجلب موقع وعرضه وتصنيفه، مقابل 4.7 ثانية لـ gpt-oss-120b الذي أعاد تصنيفين فقط.

تجارة الضبط الدقيق تحت السطح

إلى جانب النموذجين، تطلق كلاودفلير خدمة ضبط دقيق بالتعلّم المعزَّز، يقدّمها أولًا فريق مهندسيها الميدانيين ثم، كما تقول، ذاتيًا عبر منصة. والمكوّنات منتجات قائمة — بوابة الذكاء الاصطناعي لجمع بيانات الطلبات، وووركرز إيه آي للتشغيل، والحاويات كصندوق رمل للتعلّم المعزَّز — إضافة إلى مكوّن جديد اسمه ترينر، وعمل “أحضر نموذجك” الناتج عن استحواذها على ريبليكيت.

وهذا هو الجزء الجدير بالمتابعة. الأوزان المفتوحة تجعل تجربة النموذج سهلة؛ أما سلسلة الضبط الدقيق فهي ما قد يبقي العملاء. عمر جيف أسبوعان، وأطلقت أمازون نموذج قرار خاصًا بها في الأسبوع نفسه، ولم ينشر أحد من خارج الشركات حتى الآن مقارنة مستقلة لأي منها.