نشرت شركة OpenAI دراسة في 20 نوفمبر، تشرح كيفية منع الآخرين من استخدام مخرجات نموذجها لتدريب "الإصدارات المقلدة". وفق المقال الرسمي لـ OpenAIوبعد أن قام الإصدار الجديد من GPT-6.2 Astra بتعزيز الحماية، انخفض معدل نجاح المهاجمين الذين يحاولون سرقة عملية الاستدلال الداخلي للنموذج من 54% في الإصدار القديم إلى 0.2%.
وكشفت OpenAI أيضًا عن حدوث العديد من عمليات السرقة المنظمة على المنصة هذا العام، ويتراوح عدد الحسابات المحجوبة أسبوعيًا من الآلاف إلى عشرات الآلاف. تسارعت سرعة الحجب بشكل ملحوظ هذا الصيف.
ما هو التقطير: تعليم النماذج الصغيرة بإجابات من النماذج الكبيرة
"التقطير" هو أسلوب تدريب نموذجي شائع يسمح لأحد النماذج بتعلم الإجابات أو عمليات الاستدلال أو الأحكام التي ينتجها نموذج آخر. قالت OpenAI إن التقطير غير المصرح به يزيل مشكلات حقوق الملكية الفكرية، والخطر الأكبر هو أن نموذج الطالب يتعلم القدرات دون وراثة القيود الأمنية للنموذج الأصلي.
تستشهد OpenAI بأمن المعلومات كمثال: فقدرتها على مساعدة المدافعين في العثور على نقاط الضعف في البرامج يمكن استخدامها أيضًا في الهجمات. إذا تم نسخ هذه الإمكانية إلى نموذج أقل حماية، فقد يتم الالتزام بالطلبات التي قد يتم رفضها بواسطة النموذج الجديد.
التجربة الداخلية: تعلم عملية الاستدلال الكاملة ونقل المزيد من إمكانات أمن المعلومات
أجرت OpenAI مجموعة من التجارب الداخلية باستخدام نفس النموذج الذي تم تدريبه مسبقًا كطالب، وتم تدريبه باستخدام سجل كامل لنماذج مستوى Astra التي تتعامل مع مهام البرمجة والأمن الدفاعي. نظرت إحدى المجموعات فقط إلى المحتوى الذي يمكن للمستخدمين العاديين رؤيته، بما في ذلك الإجابة النهائية وملخص المنطق وعمليات الأداة؛ نظرت المجموعة الأخرى إلى عملية التفكير الكاملة.
والنتيجة هي أنه بعد الضبط الدقيق الخاضع للإشراف، فإن الطلاب الذين شاهدوا عملية التفكير الكاملة يكون أداؤهم أفضل عمومًا في اختبار الأمان؛ وبعد جولة أخرى من التعلم المعزز، ما زالوا متقدمين في ظل الحد الأقصى من الحسابات الواردة في الاختبار. عندما يكون مقدار العمليات الحسابية أقل، يكون الطلاب الذين يقرأون الملخص فقط أفضل. وخلص OpenAI إلى أن حماية عملية الاستدلال يمكن أن تحد من نقل القدرات الأمنية، حتى لو كانت المهمة الأصلية متوافقة تمامًا مع مواصفات الاستخدام.
انخفض معدل نجاح الهجوم من 54% إلى 0.2%
يستخدم OpenAI فريقًا أحمرًا آليًا للذكاء الاصطناعي لاختبار تأثير الحماية. سيقوم المهاجم بتعديل الطريقة وفقًا لاستجابة النظام وتجميع نتائج ستة نماذج هجوم. إذا كنت تريد سرقة عملية التفكير للإجابة السابقة للنموذج، فقد انخفض معدل النجاح من 54.0% تحت الحماية الأصلية لـ GPT-6 Astra إلى 0.2% لـ GPT-6.2 Astra؛ إذا كنت تريد سرقة عملية التفكير للإجابة الحالية، فقد انخفضت من 22.9% إلى 0.9%.
وتنقسم الحماية إلى طبقتين. في طلب واحد لهذه الطبقة، يتم تدريب النموذج على التعرف على الكليشيهات ورفضها. يتم فحص كل من المدخلات والمخرجات بواسطة المصنفات. يتم فحص معلمات استدعاء الأداة لمنع تسرب عملية الاستدلال. يربط GPT-6.2 Astra وSol أيضًا محتوى الاستدلال بالمحادثة التي أدت إلى إنشائه. إذا تمت إعادة كتابة الرسالة السابقة، فسيكون المنطق اللاحق غير صالح. لا تستطيع النماذج الأقدم والأضعف حمايةً قراءة المحتوى المنطقي للنموذج الجديد.
والطبقة الأخرى هي تعقب العملية برمتها. عندما يكتشف النظام سرقة منظمة، فإنه سيتحقق من شبكة الحساب التي تقف خلفها، ويتعامل معها على دفعات، ويشارك مؤشرات التسلل مع مشغلي النماذج الآخرين. وقالت OpenAI إن بعض وسائل الحماية الجديدة ستنطبق أيضًا على GPT-6 Astra.
تم تسمية DeepSeek و Dark Side of the Moon، وأعربا عن دعمهما لمشروع قانون التحكم في الرقائق
كما تضع OpenAI التقطير كمسألة تتعلق بالأمن القومي. يذكر المقال أنه في شهر فبراير أطلع الكونجرس على محاولة DeepSeek استخلاص النموذج الأمريكي المتطور. وفي سبتمبر/أيلول، فككت علناً عملية لسرقة عملية الاستدلال وألقت باللوم في الجزء الأساسي على الأشخاص المرتبطين بالجانب المظلم من القمر الذين طوروا كيمي. وسيتم الإعلان عن المزيد من الحالات الأخيرة في وقت لاحق. ذكرت تشين نيوز أيضًا في نهاية أكتوبر يعتمد DeepSeek وDark Side of the Moon على نماذج OpenAI المقطرة لتدريب النماذج الجديدة。
أعربت OpenAI عن دعمها لمنح حكومة الولايات المتحدة المزيد من الأدوات لمعاقبة الجهات الأجنبية التي تستولي بشكل غير قانوني على قدرات الذكاء الاصطناعي الأمريكية، وأعربت عن دعمها لقانون أمن الرقائق، وقانون مراقبة الذكاء الاصطناعي، وقانون ماتش أمام الكونغرس. وتتمثل حجتها في أن ضوابط التصدير تقيد الخصوم من الحصول على أجهزة التدريب، في حين أن منع التقطير يجعل من الصعب على الخصوم الحصول على نفس القدرات من النماذج الجاهزة.
كما أعلنت أنثروبيك عن حماية مماثلة في أكتوبر
ليست هذه هي المرة الأولى التي تكشف فيها الصناعة عن نتائج مضادة للتقطير. تم الإعلان عن الأنثروبي في أكتوبرحجب نتائج هجمات التقطيرقائلًا إن كمية بيانات كلود التي يتم استرجاعها انخفضت بنسبة تزيد عن 90%.
أستاذ وارتون إيثان موليك في تعليق على Xلقد انتهى بالفعل عصر التقطير السهل من نماذج OpenAI والأنثروبيك، وهو ما قد يكون سبب التباطؤ النسبي في التقدم الأخير لنماذج الوزن مفتوحة المصدر؛ وقال أيضًا إنه لم يُعرف بعد مدى أهمية التقطير لتقدم النماذج مفتوحة المصدر، "ويجب أن يُعرف ذلك قريبًا".
هذه المقالة نتائج مكافحة التقطير العامة لـ OpenAI: انخفض معدل نجاح عملية الاستدلال المسروقة من 54% إلى 0.2% ظهرت لأول مرة في أخبار السلسلة ABMedia。




