المؤلف 丨 تشنغ جيامي

المحرر 丨Cen Feng

غيّرت الحيرة بشكل مباشر الطريقة التي يتعامل بها النموذج مع مهام الحكم هذه المرة: يمكن استخدام نفس السياق من خلال أسئلة متعددة في نفس الوقت، ويحتاج النموذج فقط إلى إجراء نشر أمامي واحد لإخراج احتمالية الإجابة لكل سؤال. يمكن الآن دمج العملية التي كانت تتطلب استدعاء LLM بشكل متكرر وإنشاء نص وتحليل النتائج في حساب نموذجي واحد.

من أجل السماح لمشكلات متعددة بمشاركة الحسابات دون التدخل في بعضها البعض، أعادت Perplexity أيضًا تصميم آلية الانتباه للسماح للحالة المشتركة بقراءة جميع المشكلات مع الحد من التبادل المباشر للمعلومات بين المشكلات. يضيف الإصدار 1.3 أيضًا إمكانية تحديد الموقع، والتي يمكنها تحديد موقع نطاق النص الأصلي مباشرةً وفقًا لوصف الحقل، ودمج الحكم واستخراج النص في نفس البنية.

لقد دخلت هذه المجموعة من النماذج بالفعل إلى نظام إنتاج Perplexity. وفي مراجعة أمنية داخلية، قامت بمعالجة 7000 جلسة وكيل في يوم واحد، وقراءة مليار رمز مميز في المجموع، ودفعت من أجل 14 إصلاحًا للقواعد.

من منظور البنية التقنية، يحتوي Decider على ثلاثة مستويات تصميم مرتبطة ارتباطًا وثيقًا: كيف ينظم طرف الإدخال السياق المشترك والأسئلة المستقلة معًا، وكيف تتحكم طبقة الانتباه في تفاعل المعلومات للأسئلة المختلفة، وكيف تسمح طبقات التدريب والمخرجات لنفس النموذج أن يأخذ في الاعتبار كلاً من حكم التصنيف وتحديد موضع النص.

من بينها، يؤدي الاهتمام المعزول بالمشكلة إلى تغيير الطريقة الأساسية للحوسبة المشتركة متعددة المهام، وهو أيضًا مفتاح لفهم بنية Decider بأكملها.

01

سياق واحد يحمل مهام حكم متعددة

يتكون مدخل Decider في الواقع من حالة مشتركة (حالة) والعديد من كتل الأسئلة (سؤال). تقوم الحالة بحفظ صفحات الويب أو المستندات أو سجلات تنفيذ الوكيل، ويصف السؤال أهداف الحكم المحددة ويسرد إجابات المرشحين. يتم تعيين كل مرشح إلى رمز مميز للتسمية محدد مسبقًا، مثل A وB وC و<|marker|> يشير الرمز إلى موضع قراءة الإجابة.

أثناء معالجة النموذج، سيتم استخراج الحالة المخفية للموضع المقابل للعلامة، وتسليمها إلى رئيس اتخاذ القرار لحساب درجة كل مرشح، ثم تحويلها إلى توزيع احتمالي.

يتم تعديل رأس القرار هنا من طبقة إخراج نموذج اللغة الأصلية للنموذج الأساسي: يحتفظ Perplexity بصفوف الوزن المقابلة للتسميات المرشحة مثل A، B، C، وما إلى ذلك، ويزيل أوزان مخرجات المفردات المتبقية، ثم يتدرب على مهمة اتخاذ القرار. تُستخدم الآن طبقة الإخراج، التي كانت تُستخدم في الأصل لحساب احتمالية الرمز المميز التالي، خصيصًا للتعامل مع حكم الخيارات.

يفصل هذا التصميم تعريف المهمة عن حساب المخرجات. يستطيع المتصل وصف السؤال من خلال اللغة الطبيعية وحصر مساحة الإجابة من خلال الخيارات، ويكون النموذج مسؤولاً عن حساب احتمالية كل خيار بناءً على السياق.

يمكن لتحليل المشاعر، واستدلال اللغة الطبيعية، واكتشاف النوايا، ومطابقة الكيانات، والإشراف على المحتوى، والتحقق من الحقائق والتسجيل، استخدام نفس مجموعة بروتوكولات الإدخال، دون الحاجة إلى إنشاء بنية نموذجية منفصلة لكل مهمة.

يقوم برنامج Perplexity بتحويل المئات من مجموعات البيانات العامة إلى تنسيق تدريب موحد يتكون من الحالات والأسئلة والخيارات والأهداف. يمكن أن يكون هدف التدريب هو التسمية الصحيحة أو التوزيع الاحتمالي للإجابة الكاملة. بالنسبة للمواقف التي يلزم فيها تنفيذ أحكام متعددة على نفس النص الطويل، يمكن وضع أسئلة متعددة في نفس النشر الأمامي، ويحتاج النموذج فقط إلى معالجة سياق مشترك واحد.

ومع ذلك، فإن حساب الفوائد يتطلب فهمًا دقيقًا: فإضافة الأسئلة ستؤدي أيضًا إلى زيادة رموز الأسئلة وحسابات الاهتمام. ما يوفره Decider بشكل أساسي هو تكلفة التشفير المتكرر للنص الطويل، بالإضافة إلى تكلفة فك التشفير رمزًا تلو الآخر والتحليل الخارجي للنموذج التوليدي. كلما زاد عدد الأسئلة وزاد طول النص المشترك، أصبحت قيمة إعادة الاستخدام أكثر وضوحًا.

ويحتفظ احتمال الناتج أيضًا بمساحة لتعديل استراتيجيات العمل. النموذج مسؤول عن إعطاء التوزيع الاحتمالي للمرشحين، ويحدد التطبيق عتبات بناءً على تكاليف الأعمال للإيجابيات الكاذبة والسلبيات الكاذبة. يمكن لتصفية الويب ومراجعة تنفيذ الوكيل استخدام عتبات مختلفة دون إعادة تدريب نموذج القرار لكل شركة.

02

كيفية مشاركة المعلومات بين المهام المتعددة دون التدخل في بعضها البعض

بعد تحديد بروتوكول الإدخال، يندرج سؤال جديد ضمن النموذج: أسئلة متعددة تدخل إلى المحول في نفس الوقت، ما نوع اتصال المعلومات الذي يجب إنشاءه فيما بينها؟

يستخدم Decider LLM التوليدي باعتباره العمود الفقري له. ينظم الاهتمام السببي الأصلي المعلومات بترتيب النص. يمكن للموضع الحالي قراءة نفسه والرمز السابق فقط. هذه البنية مناسبة لإنشاء نص خطوة بخطوة، ولكنها لا تساعد على مهام الحكم التي تتطلب فهم السياق الكامل.

ولذلك يستخدم Perplexity الانتباه ثنائي الاتجاه بدلاً من ذلك، مما يسمح لـ Token بقراءة الإدخال الكامل. تظهر تجارب الاجتثاث أن هذا التعديل يحسن أداء النموذج في اتخاذ القرار.

يفتح الاهتمام ثنائي الاتجاه السياق الكامل، ولكنه يسمح أيضًا بتفاعل المعلومات بين قضايا متعددة. يستخدم الإصدار 1.2 وضع الرؤية المتبادلة الكاملة، ويمكن للحالة وجميع الأسئلة قراءة بعضها البعض. وبهذه الطريقة قد يتأثر تمثيل سؤال معين بأسئلة أخرى، وعندما يضبط المتصل مجموعة الأسئلة، قد يتغير الحكم الأصلي أيضًا وفقًا لذلك.

يؤدي الاهتمام بالسؤال المعزول الذي تم تقديمه في الإصدار 1.3 إلى تغيير مجموعة علاقات الاتصال هذه: يمكن للحالة قراءة جميع الأسئلة، ولكن كل سؤال يمكنه فقط قراءة الحالة والرمز المميز الخاص به، ولا يمكنه قراءة الأسئلة الأخرى مباشرة.

توجد تفاصيل أساسية هنا: لم تعد الحالة مجرد حاوية لحفظ النص الخام، بل تتولى أيضًا دور تجميع المعلومات عبر المهام. يمكنه قراءة مجموعة الأسئلة بأكملها وتشكيل تمثيل سياقي يحتوي على شروط المهمة في حسابات الانتباه متعددة الطبقات. تحصل كل مسألة على المعلومات ذات الصلة من خلال الولاية وتحتفظ بوصف المهمة الخاص بها.

ويمنع هذا الهيكل النقل المباشر للتمثيلات المحلية بين المسائل، ولكنه لا يلغي جميع التأثيرات غير المباشرة. نظرًا لأن الحالة قد قرأت معلومات المشكلات الأخرى، بعد نشر المحول متعدد الطبقات، فقد تظل معلومات المشكلة "أ" تدخل في التمثيل اللاحق للحالة ثم يتم قراءتها بواسطة المشكلة "ب".

يتحكم الحيرة في الروابط المتعمدة المباشرة بدلاً من جعل المهام مستقلة تمامًا بالمعنى الرياضي. يفسر هذا الاختلاف أيضًا سبب عدم تحديد الوضع القابل للتخزين المؤقت بالكامل في الإصدار 1.3. لقد اختبر الفريق بنية أخرى: الحالة تقرأ فقط المحتوى الخاص بها، والسؤال يقرأ الحالة والرمز المميز الخاص بها. ليفينغ.كوم

بهذه الطريقة يمكن إعادة استخدام نفس الجزء من النص في ذاكرة التخزين المؤقت بين الطلبات لأن تمثيل الحالة لا يعتمد على مجموعة الأسئلة المحددة. لكن التكلفة تكمن في أن الحالة لا يمكنها رؤية متطلبات المهمة عند الترميز ولا يمكنها ضبط التمثيل السياقي للمشكلة الحالية. تختار الحيرة أخيرًا الاهتمام بالسؤال المعزول، مع الاحتفاظ بالتأثير المشروط للأسئلة على السياق.

قام الفريق أيضًا بفحص استقرار الإخراج من خلال اختبار اضطراب الملصقات. في 372 سؤالًا متعدد الاختيارات، أدى تغيير ترتيب الخيارات ورسم الخرائط وأسماء التصنيفات إلى تغييرات في الإجابات الدلالية لـ 0.27% فقط من الأسئلة في Decider v1.3 ومن 2.69% إلى 4.84% في Jev 1.14. يظل مخرج Decider v1.3 ثابتًا عند تنفيذه بشكل متكرر بنفس الإدخال.

وهكذا أصبح الاهتمام المعزول هو التصميم المعماري الأساسي لـ Decider: فهو يحدد كيفية مشاركة السياق المشترك في أحكام متعددة، ويحدد أيضًا المسارات التي يمكن من خلالها تبادل المعلومات بين المشكلات المختلفة.

03

من حكم الخيار إلى استخراج النص

نطاق الإخراج لرأس القرار العادي محدود بخيارات محددة مسبقًا. عندما تتطلب المهمة من النموذج العثور على نص غير معروف الطول من النص الأصلي، فإن التسميات مثل A وB وC لم تعد قادرة على تلبية الطلب. ولذلك يضيف Decider v1.3 تحديد الموقع، مما يوسع الإخراج ليشمل تحديد موضع امتداد النص.

يضيف تحديد الموقع <|locate|> الرمز المميز وSpan Head ومحول LoRA. يحتوي كل حقل يتم استخراجه على رمز موقع مستقل، وتتم تهيئة تضمينه من خلال تمثيل العلامة الذي تم الحصول عليه من التدريب السابق. يجمع رأس الامتداد بين التمثيل المخفي لكل رمز مميز في Locate Token وState لتسجيل نقطة البداية ونقطة النهاية وعلاقة الاقتران بين طرفي جزء النص المرشح، وفي نفس الوقت ينشئ حدًا فريدًا للحقل.

تكون درجات نقطتي البداية والنهاية مسؤولة عن العثور على حدود النص، بينما تحدد درجات الاقتران ما إذا كان الموضعان يمكن أن يشكلا مقطعًا صالحًا. إن العثور على موضعين عاليي الدرجات وحده لا يعني أنهما يجب أن ينتميا إلى نفس النص المعقول، لذلك يجب أيضًا تعلم علاقة الاقتران بشكل مستقل. يقوم النموذج بإرجاع نطاق الأحرف الأصلي، ويمكن لبرامج المصب قراءة المحتوى المقابل مباشرة. com.leifengwan

يستخدم التدريب نسخة معدلة من هدف InfoNCE بحيث تكون درجة النطاق الصحيح أعلى من العتبة وتكون العتبة أعلى من النطاقات المرشحة الأخرى. عندما لا يكون هناك حقل مطابق في النص الأصلي، يحتاج النموذج إلى رفع الحد بحيث لا تتمكن الأجزاء المرشحة من اجتياز التصفية وإرجاع قائمة فارغة.

تحديد موقع تم تدريبه على الحيرة باستخدام التعرف على الكيانات المسماة، واكتشاف معلومات تحديد الهوية الشخصية (PII)، وبيانات الأسئلة والأجوبة الاستخراجية، مع أوصاف الحقول التي تتراوح من التسميات القصيرة إلى تعليمات اللغة الطبيعية. يتطلب تنظيم البيانات هذا أن يفهم النموذج العلاقة بين معاني الحقول ومحتوى النص، بدلاً من مجرد حفظ أسماء الحقول الثابتة.

يؤدي تحديد الموقع أيضًا إلى حدوث مشكلات في تداخل المعلمات. يتعلم رأس القرار الأصلي التوزيع الاحتمالي بين الخيارات المرشحة، ويتعلم رأس الامتداد حدود النص وأزواج المقاطع. للمهمتين متطلبات مختلفة للتمثيل الداخلي للنموذج.

وجدت شركة Perplexity أن دمج محول Locate في العمود الفقري أدى إلى تدهور طلبات القرار الشائعة، لذلك أبقى محول LoRA المستقل ممكنًا فقط لمهام موقع النص.

يتم تدريب النموذج الرئيسي على مراحل. الإصدار الأكبر يعتمد على Qwen3.8-27B. يقوم أولاً بتنفيذ الضبط الدقيق العام والكامل على نطاق واسع ويستبعد قسم التدريب من معايير التقييم العامة. ثم يضيف مهام المجال من خلال LoRA ثم يقوم بإجراء التكيف البصري. قام الفريق بحساب متوسط ​​أوزان تدريب النص من ثلاث بذور عشوائية مختلفة لتحسين الأداء العام للنموذج.

يعتمد إصدار Flash على Qwen3.5-4B، ويكتسب القدرات من خلال عملية التقطير الأكبر لـ Decider. يناسب نموذج الطالب التوزيع الاحتمالي الكامل الذي قدمه المعلم ويتعلم حكم المعلم النسبي على المرشحين المختلفين من خلال تباعد KL. Leifeng.com (الحساب العام: Leifeng.com)

بالمقارنة مع تعلم التسمية الصحيحة فقط، فإن التقطير التوزيعي يحافظ أيضًا على الثقة النسبية للمرشحين الآخرين. تُظهر الحيرة أن تقطير KL يعمم بشكل أفضل من هدف الإنتروبيا القياسي في مهمة الإيقاف في ضوء نفس بيانات التدريب.

في التقييم، حقق Decider v1.3 متوسط ​​دقة يبلغ 91.6% في 63 مهمة تصنيف، أي أعلى بنسبة 6.54 نقطة مئوية من مصنف الإنتاج الأصلي لـ Perplexity. في 72 مهمة استرجاع، وصل متوسط ​​nDCG@10 لإعادة الترتيب من حيث النقاط إلى 83.99، أي أعلى بـ 1.81 نقطة من Qwen3-Reranker-8B.

كان متوسط ​​الدقة عبر المهام اللغوية الثماني 88.16%، وكان Jev 1.14 85.41%. كان متوسط ​​نقاط Locate في المهام الـ 17 خارج النطاق هو 69.0، وكان متوسط ​​نقاط Flash 63.6. يغطي تقييم الإنتاج مليون طلب في أول 18 يومًا بعد تشغيل واجهة برمجة التطبيقات، ويتضمن 2,318,887 إصدارًا بعد إلغاء البيانات المكررة. نظرًا لأن طلبات الإنتاج كانت تفتقر إلى التعليقات التوضيحية البشرية، استخدم الفريق نموذجًا متطورًا للتحكيم في ماجستير إدارة الأعمال لإنشاء إجابات مرجعية.

إن اتساق Decider v1.3 مع الإجابة المرجعية هو 93.98%، وهو أعلى قليلاً من 93.68% للإصدار 1.2 و93.35% لـ Jev 1.14. تعكس هذه البيانات درجة الاتفاق بين النموذج ونموذج التقييم، ولكن لا يمكن معادلتها مباشرة بمعدل الدقة الحقيقي بموجب التعليق التوضيحي اليدوي.

04

الحكم، البدء في الحصول على بنية حوسبة مستقلة

يدور المسار الفني لـ Decider حول مشكلة واضحة: كيفية جعل النموذج يتعامل بكفاءة مع عدد كبير من الأحكام المنظمة مع الاحتفاظ بالقدرة على فهم السياق. إنه ينشئ نظام قدرة كاملًا بدءًا من الحكم على الخيارات وحتى تحديد موضع النص من خلال بروتوكولات الإدخال والانتباه المعزول وتحديد موقع الامتدادات.

لكن هذه الهندسة المعمارية لا تزال لها حدود. تُظهر نتائج التقييم العام الحالي أداءه في التصنيف وإعادة ترتيب الاسترجاع واستخراج النص، كما تُظهر حالات الإنتاج أيضًا أن Perplexity استخدمته في سير العمل الداخلي.

ومع ذلك، فإن الفائدة الفعلية للنموذج لا تزال تعتمد على نوع المهمة، وطول السياق، وعدد المشاكل المتوازية، وتكلفة النشر. البيانات الموجودة ليست كافية لإثبات أن هذه البنية مناسبة لجميع تطبيقات الذكاء الاصطناعي، وخاصة التفكير المفتوح والتخطيط المعقد، ولا يزال LLM العام يتمتع بمزاياه الخاصة.

بالنسبة لنظام الوكيل، يوفر Decider بالفعل فكرة عن تقسيم العمل الذي يستحق الاستمرار في التحقق منه: دع LLM العام يتعامل مع الفهم المعقد والتوليد، وتسليم التصنيف والفحص والتقييم الواضح الحدود إلى النماذج المتخصصة. ومع ذلك، ما إذا كان بإمكان الاثنين تشكيل طريقة تعاون أكثر ملاءمة يحتاج إلى مزيد من الاختبار بناءً على زمن الوصول واستهلاك الموارد وأداء المهام في أعباء العمل الحقيقية.

الرابط المرجعي: https://www.perplexity.ai/en-GB/hub/blog/perplexity-decider

المقالات الأصلية من Leifeng.com، يحظر النسخ غير المصرح به. راجع تعليمات إعادة الطباعة للحصول على التفاصيل.

يحرر

إعادة إرسال البريد الإلكتروني تعديل البريد الإلكتروني