نموذج الذكاء الاصطناعي "أنثروبيك" يكتشف عددًا كبيرًا من ثغرات اليوم الصفر ويبني أكواد هجومية

أخبار ar.wedoany.com، أظهر نموذج الذكاء الاصطناعي (AI) "ميثوس" الذي طورته شركة "أنثروبيك" قدرات هائلة في مجال الأمن السيبراني. يتمكن هذا النموذج من اكتشاف عدد كبير من ثغرات اليوم الصفر في المتصفحات وأنظمة التشغيل (OS)، بما في ذلك ثغرات قديمة يعود تاريخها لعقود مضت. والأهم من ذلك، أن "ميثوس" يقوم ببناء أكواد الاستغلال (exploit) بشكل مستقل، ويربط بين الثغرات للحصول على صلاحيات الوصول. في بعض الحالات، تمكن من اقتراح سلاسل هجومية تتجاوز آليات الحماية في صندوق الحماية (sandbox) الداخلي للمتصفحات وأنظمة التشغيل.

بدأ تصاعد سلوك القرصنة الإلكترونية ليصبح قضية استراتيجية وطنية في عهد الرئيس الأمريكي رونالد ريغان. كان السبب طالبًا في المدرسة الثانوية كان يبحث عن خوادم ألعاب، وضغط على مفتاح تشغيل نظام محاكاة الحرب النووية الأمريكية في فيلم "ألعاب الحرب (WarGames, 1983)". ومنذ ذلك الحين، تم وضع سياسات الأمن السيبراني على المستوى الوطني.

يمثل ظهور "ميثوس" ابتكارًا أمنيًا وأزمة في آن واحد. بعد أتمتة عمليات البحث عن الثغرات وتصميم الهجمات، سينخفض مستوى الصعوبة في الأساليب التقليدية للقرصنة (مثل فضول البشر، والمهارات الفنية العالية، والتجربة والخطأ، والتسلل طويل الأمد). يزداد احتمال تعرض البنى التحتية الحيوية مثل القطاعات المالية والكهربائية والاتصالات والخدمات اللوجستية للتهديد. ولهذا السبب، لم تعلن شركة "أنثروبيك" عن "ميثوس" للجمهور، بل تعاونت مع شركات تكنولوجيا المعلومات (IT) الكبرى والنظام البيئي مفتوح المصدر للأمن السيبراني في إطار مشروع "جلاس وينج" (Project Glasswing).

أثارت حادثة "ميثوس" إعادة التفكير في العلاقة بين البشر والذكاء الاصطناعي. يمكن للذكاء الاصطناعي تحقيق الأهداف المحددة بفعالية ضمن نطاق محدود، لكن المشكلة تكمن في أن الذكاء الاصطناعي قد يتخذ إجراءات تنحرف بشدة عن نوايا البشر، دون فهم المعايير أو الشروط الضمنية التي يعتبرها البشر أمرًا بديهيًا. مثال على مشكلة التوافق (alignment problem) هذه: لتنفيذ أمر "إنتاج أكبر عدد ممكن من مشابك الورق"، قد يستخدم الذكاء الاصطناعي جميع الموارد دون تفكير.

يحتجز البشر الدجاج داخل حظائر لتربيته، لكن الدجاج لا يستطيع حجز البشر، لأنه لا يستطيع فهم أو مواكبة قدرة البشر على استخدام الأدوات ووضع الخطط والإدارة المنهجية. وهذا يطرح سؤالًا أعمق: هل يستطيع البشر السيطرة على الذكاء الاصطناعي العام (AGI) الذي قد يكون نطاق استكشافه أوسع، وتخطيطه أبعد، وقد يؤثر حتى على حكم البشر؟

لضمان سلامة الخوارزميات، لا بد من إجراء فحوصات مسبقة، على غرار عملية حصول الأدوية على موافقة الجهات التنظيمية للأغذية والأدوية لضمان عدم ضررها. بالإضافة إلى ذلك، يمكن النظر في تقديم منتجات ذكاء اصطناعي منخفضة الوظائف عن قصد، على شكل "سلع تالفة" (damaged goods)، بشرط منع المستخدمين من اختراقها وإساءة استخدامها، على غرار سلوك "كسر الحماية" (jailbreak) لأجهزة آيفون.

حتى مع الالتزام بالمبادئ الأساسية مثل الحد الأدنى من الصلاحيات، والثقة المعدومة، وتحديد نطاق الضرر، لا يمكن منع القرصنة الإلكترونية بشكل كامل. قد يتطلب الأمن في عصر الذكاء الاصطناعي الاعتماد على الذكاء الاصطناعي للدفاع، لكن الذكاء الاصطناعي الدفاعي نفسه قد يصاب بالعدوى من ذكاء اصطناعي مخترق، أو حتى يحاول الهروب من صندوق الحماية بمفرده، لذلك لا يمكن تكليفه بجميع مهام الدفاع. يجب وضع الذكاء الاصطناعي الدفاعي تحت قيود صارمة على الصلاحيات ومراقبة مستمرة.

تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com