تنمو نماذج الذكاء الاصطناعي مفتوحة الأوزان بوتيرة مذهلة. يُظهر التقرير الأخير من SaferAI، منظمة غير ربحية متخصصة في أمن الذكاء الاصطناعي، أن GLM-5.2، النموذج المفتوح الأوزان الصيني من Z.ai، لم يعد يبعد إلا بضعة أشهر عن GPT-5.5 من OpenAI وClaude Opus 4.7 من Anthropic — في مجالات السيبرانية والأحيائية، أكثر المجالين حساسية.
لكن ما يقلق الخبراء ليس سباق القدرات بقدر ما هو الفجوة المتزايدة بين القدرات وممارسات الأمان.
ما يكشفه تقييم SaferAI
اختبر SaferAI نموذج GLM-5.2 عبر واجهة برمجة التطبيقات العامة من Z.ai، على معايير مصممة لقياس المخاطر الهجومية:
- لا رفض لأي مهمة هجومية سيبرانية. لم يرفض GLM-5.2 أياً من المهام السيبرانية الهجومية أو الاستخدام المزدوج البيولوجي المقدمة إليه.
- مقارنة صادمة: رفض Claude Opus 4.7 بشكل منهجي لدرجة أن SaferAI لم يتمكن حتى من إكمال CyberGym (معيار مخاطر سيبرانية) على النموذج.
“حدود القدرات ليست حدود المخاطر. يجب أيضاً مراعاة حالة تدابير التخفيف لتقييم المخاطر بشكل صحيح.” — هنري باباداتوس، المدير التنفيذي لـ SaferAI
المشكلة الجوهرية لنماذج مفتوحة الأوزان
يمكن لـ Z.ai تطبيق تدابير أمنية على واجهة برمجة التطبيقات المُستضافة. لكن هذه الحمايات تصبح غير قابلة للتطبيق بمجرد أن يُنزل شخص ما الأوزان ويشغلها على جهازه الخاص: يمكن بعد ذلك إزالة الضوابط، أو تعديل النماذج عبر fine-tuning، أو تغيير مطالبات النظام.
يعتمد مطوّرو النماذج المغلقة (OpenAI، Anthropic) على المصنّفات وتدريب الرفض وضوابط على مستوى واجهة البرمجة. هذه التدابير ليست مضمونة — حيث تنجح اختراقات عامة بانتظام في تجاوز حماية النماذج المُنشرة، كما أظهر Far.ai على Grok 4.5 أو نماذج Google DeepMind.
لكن النقطة الجوهرية بسيطة: الضوابط المصممة للنماذج المغلقة لا تعمل أبداً على النماذج مفتوحة الأوزان، التي مصممة للعمل على أي بنية تحتية، بأي مجموعة من الحمايات — أو دون أي.
مسارات التخفيف
يحدد باباداتوس عدة نهج ممكنة:
-
تصفية بيانات التدريب: إزالة معلومات الدفاع السيبراني الهجومية من بيانات التدريب، ثم تدريب النموذج على هذا الم.corpus النظيف. تُظهر الدراسة أن هذا يمكن أن يقلل المعرفة البيولوجية الخطيرة دون تدهور الأداء العام. لكن بالنسبة للدفاع السيبراني، التصفية أقل عملية بكثير: من الصعب تدريب نموذج متفوق في الكود دون أن يكون أيضاً مهاجراً ماهراً.
-
تقييد انتقائي: تحديد نوع المساعدة السيبرانية التي تقدمها النماذج. Claude Opus 5، على سبيل المثال، يمكنه البحث عن الثغرات الأمنية في الكود المصدري غير المُترجم، لكنه لا يستطيع فعل ذلك في الكود المُترجم.
-
تقييمات ما قبل النشر: تقييمات أمنية صارمة، ونشر تحليلات المخاطر، والاحتفاظ بالأوزان إذا اعتُقد أن النظام خطير جداً.
في حالة GLM-5.2، يُبرز SaferAI أن Z.ai لم ينشر إطار أماناً ولا التزامات اختبار قبل النشر ولا تقييم مخاطر للنموذج.
الموقف الصيني
القادة الصينيون يُعترفون بشكل متزايد بمخاطر الذكاء الاصطناعي المتقدم. في مؤتمر الذكاء الاصطناعي العالمي الشهر الماضي، أكد شين جينبينغ على أهمية النماذج مفتوحة الأوزان مع التأكيد على ضرورة ضمان بقاء الذكاء الاصطناعي أداة تحت سيطرة بشرية صارمة.
غراهام ويبستر، الذي يدرس السياسة الصينية في الذكاء الاصطناعي في Stanford Cyber Policy Center، يقدم ت nuance: تملك الصين لوائح قوية، لكنها تاريخياً ركزت على المحتوى الحساس سياسياً وإزالة المعلومات واستقرار المجتمع — وليس المخاطر الكارثية للذكاء الاصطناعي. المفكرون الصينيون، يقول، أقل قلقاً عموماً بشأن المخاطر الوجودية من نظرائهم الأمريكيين.
الحجة المضادة للمدافعين عن مفتوح الأوزان
يدافع أنصار مفتوح الأوزان عن إطلاق الأوزان لسبب حاسم: الدفاع. اعتمد Hugging Face على GLM-5.2 للدفاع ضد اختراق OpenAI.
“الأنظمة نفسها التي ساعدت في إيقاف هجوم سيبراني مدفوع بالذكاء الاصطناعي يمكنها الآن المساعدة في الدفاع ضد ملايين الهجمات السيبرانية كل يوم، واكتشاف الثغرات الأمنية قبل أن يستغلها المهاجمون.” — كليم ديلانغ، CEO Hugging Face
يعتقد باباداتوس أن هذه الميزةغالباً ما تكون مُبالغ فيها — ولا تبرر نشر قدرات خطيرة:
“النقطة الرئيسية، برأيي، هي أنه يجب ألا نقبل ببساطة أن القدرات الخطيرة يمكن الوصول إليها بسهولة من أي شخص، في أي مكان.”
الملاحظات الرئيسية
نقاش مفتوح الأوزان مقابل الأمان ليس ثنائياً. يتعلق الأمر بالتوافق بين نشر القدرات النافعة ومنع الاستخدامات الخطرة — مع ملاحظة واضحة: بشكل افتراضي، يتبنى المهاجمون الأدوات الجديدة أسرع مما ينشر المدافعون ضوابطهم.
للشركات والمطورين، هذا يعني أن دمج نماذج مفتوحة الأوزان في الإنتاج يتطلب تقييم أمني خاص لكل حالة استخدام: أصل النموذج، تدابير التخفيف، أسطح التعرض، والقدرة على مراقبة الاستخدام. التكنولوجيا ليست محايدة — وأمانها لا يُ宣告، بل يُقيّم.
تستخدم الذكاء الاصطناعي بالفعل في مؤسستك، أو تخطط للقيام بذلك؟ يساعد فريقنا المؤسسات في دمج الذكاء الاصطناعي بطريقة آمنة واستراتيجية — وليس فقط فعّالة. احصل على تدقيق مجاني لنضجك في الذكاء الاصطناعي واحمل معك خطة عمل ملموسة، مخصصة لاحتياجاتك ومخاطرك.
