مع التوسع الواسع في تطبيقات نماذج الذكاء الاصطناعي الأساسية متعددة الوسائط، تظهر ثغرات أمنية جديدة باستمرار، مما يزيد من احتمالية الهجمات السيبرانية. قدم باحثون في مختبر لوس ألاموس الوطني إطارًا جديدًا لمواجهة هذا التحدي، يهدف إلى تحديد ومقاومة التهديدات التنافسية الموجهة ضد نماذج الأساس متعددة الوسائط (طرق الذكاء الاصطناعي القادرة على دمج ومعالجة البيانات النصية والبصرية بسلاسة). يساعد هذا الابتكار مطوري الأنظمة وخبراء الأمن على فهم ثغرات النماذج بشكل أعمق، مما يعزز قدرتهم على الدفاع ضد الهجمات المعقدة.

أشار عالم الحاسوب في لوس ألاموس مانيش بهاتاراي (Manish Bhattarai): "مع زيادة شعبية النماذج متعددة الوسائط، قد يستغل الخصوم نقاط ضعفها عبر القنوات النصية أو البصرية أو كليهما معًا." تواجه أنظمة الذكاء الاصطناعي تهديدات متزايدة الخطورة، غالبًا ما تنشأ من تلاعبات خبيثة دقيقة قد تضلل أو تعطل مخرجات النموذج. يمكن للمهاجمين استغلال اضطرابات غير ملحوظة لتعطيل التوافق الهندسي بين النصوص والصور في النماذج متعددة الوسائط، مما يؤدي إلى نتائج مضللة أو ضارة.

في مواجهة هذا الواقع، طور فريق لوس ألاموس طريقة جديدة باستخدام تحليل البيانات الطوبولوجي لاكتشاف السمات التنافسية. عندما يعطل الهجوم التوافق الهندسي لتضمين النصوص والصور، ينتج عن ذلك تشوهات طوبولوجية قابلة للقياس. قام الباحثون بقياس هذه الاختلافات بدقة من خلال تقنيتين تُعرفان بـ "خسارة التباين الطوبولوجي"، مما مكّنهم من تحديد المدخلات التنافسية بفعالية. قال عضو الفريق مينه فو (Minh Vu): "يمكن لخوارزميتنا اكتشاف سمات الهجوم بدقة، وبالاقتران مع التقنيات الإحصائية، تكتشف التلاعب بالبيانات الخبيثة بدقة عالية."

تم التحقق من فعالية هذا الإطار بدقة على حاسوب Venado الفائق في لوس ألاموس. تم تركيب هذا الحاسوب في عام 2024، ويجمع بين وحدات المعالجة المركزية (CPU) ووحدات معالجة الرسوميات (GPU) للتعامل مع الحوسبة عالية الأداء وتطبيقات الذكاء الاصطناعي واسعة النطاق. اختبر الفريق الإطار على مجموعات بيانات ونماذج معيارية متعددة، وأظهرت النتائج أن الطريقة الطوبولوجية تفوق الإجراءات الحالية بشكل ملحوظ في الدفاع ضد أنواع متعددة من الهجمات التنافسية المعروفة، مما يوفر دفاعًا أكثر موثوقية ومرونة ضد التهديدات.