أخبار ar.wedoany.com، بناءً على "تصنيف أنماط الأعطال في أنظمة الذكاء الاصطناعي الوكيل" الذي نشرته مايكروسوفت لأول مرة العام الماضي، حددت الشركة سبعة أنماط جديدة للأعطال في أنظمة الذكاء الاصطناعي الوكيل.
هناك أربعة أسباب رئيسية لزيادة عدد الأعطال في أنظمة الذكاء الاصطناعي الوكيل: تسارع وتيرة انتشار هذه التقنية في التيار الرئيسي، ونضج النظام البيئي لبروتوكول سياق النموذج (MCP)، وظهور وكلاء استخدام الحاسوب، وتراكم الأدلة التجريبية بعد حصول الباحثين على المزيد من الاكتشافات العملية.
تشمل الأنماط السبعة الجديدة للأعطال التي تم تحديدها: اختراق سلسلة التوريد الوكيل (Agentic Supply Chain Compromise)، حيث قد يتأثر سلوك الوكيل باللغة الطبيعية بدلاً من التعليمات البرمجية الضارة؛ اختطاف الهدف (Goal Hijacking)، حيث تبدو التعليمات المضادة متوافقة مع المهمة المشروعة بينما تعيد توجيه الهدف النهائي للوكيل سراً؛ تصعيد الثقة بين الوكلاء (Inter-Agent Trust Escalation)، حيث يدعي الوكيل المخترق هوية زائفة أو يبالغ في صلاحياته أمام المنسق (orchestrator)؛ الهجوم البصري على وكيل استخدام الحاسوب (CUA) (Computer Use Agent (CUA) Visual Attack)، حيث يمكن التلاعب بالوكيل الذي يعمل عبر واجهة رسومية بمحتوى يحتوي على تعليمات مضادة؛ تلوث سياق الجلسة (Session Context Contamination)، حيث يُدخل الخصم بيانات تؤدي إلى انحراف استدلال الوكيل في الخطوات اللاحقة دون تفعيل ضوابط الأمان في أي خطوة منفردة؛ إساءة استخدام MCP/الإضافات (MCP / Plugin Abuse)، وهو تحديث لتغطية الأعطال الوظيفية المتعلقة ببروتوكول MCP وبروتوكول الإضافات في التصنيف الأصلي، خاصة أسطح الهجوم الفريدة لهذه البروتوكولات؛ تسريب القدرات/الهندسة المعمارية (Capability / Architecture Disclosure)، حيث يكشف الوكيل عن تفاصيل التنفيذ الداخلي، مثل أسماء الأدوات وأنماطها، وهيكل تعليمات النظام، وواجهة الذاكرة، أو منطق تشغيل الموافقة/الإنسان في الحلقة.
توصي مايكروسوفت فرق الأمان باستخدام أنماط الأعطال هذه لتوجيه التخطيط، وجرد سلاسل التوريد، وإنشاء قائمة مواد برمجية (SBOM) لكل وكيل منشور، والتحقق من هوية الوكيل بشكل مشفر عبر تقديم بيانات اعتماد قابلة للإثبات عند إصدارها بدلاً من التحقق من الموقع، وإضافة الأنماط السبعة الجديدة للأعطال إلى مصفوفة تغطية الفريق الأحمر، ومراجعة تجربة المستخدم الخاصة بالإنسان في الحلقة كعنصر تحكم أمني.
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
