شركة أنثروبيك الأمريكية تعتذر عن مرشح مكافحة التقطير المخفي في نموذج Claude Fable 5

أخبار ar.wedoany.com، قامت شركة أنثروبيك (Anthropic) بتضمين مرشح مكافحة تقطير مخفي في نموذج Claude Fable 5، والذي يقوم بتعديل المخرجات سراً عند محاولة المستخدمين تقطير النموذج، بدلاً من رفض الطلب بشكل مباشر. في 11 يونيو 2026، كشفت مجلة التكنولوجيا The Verge عن هذه الآلية، مما أثار ردود فعل قوية في مجتمع الذكاء الاصطناعي. وقدمت أنثروبيك اعتذارها لاحقاً، وتعهدت بأن تجعل هذا القيد شفافاً ومرئياً مثل إجراءات الحماية الأخرى في المستقبل.

التقطير هو تقنية شائعة في الأبحاث، تستخدم مخرجات النماذج الكبيرة لتدريب نماذج أكثر إحكاما. تحظر أنثروبيك في شروط الاستخدام الخاصة بها عملية التقطير، لكن طريقة معالجة Fable 5 لمحاولات التقطير تختلف عن المجالات الحساسة الأخرى. بالنسبة للطلبات المتعلقة بالهجمات الإلكترونية أو علم الأحياء أو الكيمياء، يتحول النموذج بوضوح إلى Claude Opus 4.8 ويُعلم المستخدم بذلك؛ أما بالنسبة لسلوك التقطير، فإنه يعدل التعليمات النصية (prompts) سراً عبر آليات معقدة، ويولد مخرجات متدهورة عن قصد، دون إصدار أي تحذير أو رسالة خطأ. تم توثيق وجود هذا المرشح في بطاقة النظام الخاصة بالنموذج، لكن الآلية ذاتها لم تكن معروفة على نطاق واسع.

كان رد فعل المجتمع عنيفاً تجاه هذا الأمر. وفقاً لتقرير من Gizmodo، أفاد بعض الباحثين في مجال الذكاء الاصطناعي أنهم لم يروا زملاء لهم بهذا القدر من الغضب من قبل. ولخص أحد مستخدمي Reddit المشاعر العامة قائلاً إنه يمكن رفض المحتوى الحساس أو إرجاع رموز خطأ، لكن "أخذ أموال الناس مع تسميم قاعدة بياناتهم البرمجية" أمر غير مقبول.

استجابت أنثروبيك بسرعة. اعترفت الشركة في بيان لها بأنها "اتخذت حلاً وسطاً خاطئاً"، واعتذرت عن عدم قدرتها على "إيجاد التوازن الصحيح". حالياً، سيتم تحويل الطلبات التي يتم تحديدها كمحاولات تقطير إلى Claude Opus 4.8، بما يتوافق مع طريقة معالجة المجالات الحساسة الأخرى، وسيتلقى المستخدم إشعاراً في كل مرة.

كشف هذا الحادث عن التناقض العميق لدى أنثروبيك بين انفتاح النموذج وحماية الميزة التكنولوجية. يُعد Fable 5 بالفعل نسخة مقيدة من نموذج Mythos، الذي لم يتم إصداره للعامة لاعتباره شديد الخطورة. تسعى الشركة إلى حماية أصولها التكنولوجية من التقطير، وهو مطلب معقول تجارياً، لكن اختيار تنفيذ ذلك بصمت بدلاً من الإعلان العلني عن القيود، أدى إلى تآكل ثقة الخارج في شركة تضع الشفافية والسلامة المسؤولة كأساس لعرض قيمتها. قامت أنثروبيك بتعديل مسارها بسرعة، لكن يبقى أن نرى ما إذا كان هذا الأمر سيغير بشكل دائم طريقة تسجيل إجراءات الحماية الخاصة بها.

تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com