أخبار ar.wedoany.com، أسس باحثون سابقون في مجال أمن الذكاء الاصطناعي من شركة سيسكو (Cisco) شركة جديدة تركز على حل مشكلة لم تكن موجودة تقريبًا من قبل: حماية أمن وكلاء الذكاء الاصطناعي المستقلين الذين تسلمهم الشركات مفاتيح أنظمتها الحيوية.
أطلقت شركة Tenet Security Inc. اليوم منصة تهدف إلى منع سلوكيات وكلاء الذكاء الاصطناعي الضارة من الوصول إلى أنظمة الإنتاج. تعتمد التقنية الأساسية للمنصة على ما يُسمى "المحاكاة من جانب الوكيل" (Agent-Side Simulation)، والتي تحاكي الخطوات التالية المحتملة للوكيل قبل أن يتمكن من الوصول إلى البنية التحتية الفعلية.
إذا كان المسار ينطوي على مخاطر، تتدخل Tenet قبل حدوث الضرر، وترسل سجلاً للتتبع يشرح سبب المنع. بينما تصدر أدوات الأمن التقليدية تنبيهات بعد وقوع حدث مشبوه، تحاول Tenet اكتشاف المشكلات قبل أن يتخذ الوكيل إجراءً فعليًا.
تمنح الشركات وكلاء الذكاء الاصطناعي صلاحيات حقيقية للتصرف بشكل مستقل. يقوم هؤلاء الوكلاء بتشغيل التعليمات البرمجية، واستخراج البيانات من قواعد البيانات، وإجراء تغييرات على الأنظمة في الوقت الفعلي. ومع ذلك، بمجرد أن يصبح الوكيل حرًا في بيئة العمل، لا تستطيع فرق الأمن في الغالب معرفة سلوكياته. تشير Tenet إلى أن عدد وكلاء الذكاء الاصطناعي التي تديرها المؤسسات يزيد عادةً بخمسة أضعاف عن العدد الذي تدركه فرق الأمن لديها.
"قد تكون وكلاء الذكاء الاصطناعي أكبر وسيلة لتحرير الإنتاجية شهدتها الشركات منذ عقود، وهذا هو سبب نشر المؤسسات لها بسرعة،" قال المؤسس المشارك والرئيس التنفيذي باراك ستيرنبرغ. "لكننا ندخل عالمًا تتفاعل فيه الوكلاء المستقلون مع الأنظمة والبيانات والوكلاء الآخرين، ومعظم أدوات الأمن لم تُصمم أبدًا لفهم هذه التفاعلات."
شارك ستيرنبرغ في تأسيس Tenet مع نيفو بوران. كلاهما باحثان في مجال الأمن الهجومي، وقد شاركا في أعمال الدفاع عن الذكاء الاصطناعي (AI Defense) في سيسكو، حيث درسا كيفية استهداف المهاجمين للأنظمة المستقلة. سابقًا، أدارا شركة Wild Pointer للأمن السيبراني التي حققت إيرادات سنوية من سبعة أرقام، وضمت عملاء من شركات مدرجة في قائمة Fortune 500. وقد ألقى كلاهما محاضرات في مؤتمري DEF CON و Black Hat.
قبل هذا الإطلاق، أجرى مختبر تهديدات Tenet (Tenet Threat Labs) التابع للشركة بحثًا حول "اختطاف الوكيل" (agentjacking)، وهي فئة من الهجمات التي تتلاعب بالوكيل لتنفيذ سلوكيات يتحكم بها المهاجم.
تخفي الهجمات تعليمات ضارة في المحتوى الذي يقرأه الوكيل، مثل رسائل البريد الإلكتروني أو إدخالات السجلات أو سجلات قواعد البيانات. عندما يعالج الوكيل هذا المحتوى، تستولي التعليمات على زمام الأمور وتعيد توجيه الخطوة التالية للوكيل. اختبرت Tenet ذلك في أكثر من 100 بيئة مؤسسية، ووجدت أن آلاف المؤسسات قد تكون عرضة للهجوم. لم تكتشف أدوات الأمن التقليدية ذلك لأن الوكيل كان ينفذ عمليات مسموح بها، مما لم يطلق أي إنذار.
كشفت عمليات النشر المبكر عن حجم المشكلة. ذكرت Tenet أن شركة في قطاع الخدمات القانونية تبلغ إيراداتها السنوية المتكررة مليار دولار، شهدت خلال ستة أشهر من استخدام المنصة زيادة عدد الوكلاء المنشورين من اثنين إلى أكثر من 20، وتم إحباط أكثر من 10 هجمات محاولة، بما في ذلك هجوم خطير من نوع البرمجة النصية عبر المواقع (XSS). في عميل آخر من قائمة Fortune 1000، اكتشفت Tenet وكيلاً خارجًا عن السيطرة استهلك عشرات الآلاف من الدولارات من الرموز المميزة خلال عطلة نهاية الأسبوع.
"نشهد بشكل متزايد أن وكلاء الذكاء الاصطناعي أنفسهم يصبحون جزءًا من مسار الهجوم،" قال بوران. "المكان الوحيد الذي يمكن فيه اكتشاف هذه التهديدات هو في وقت التشغيل، في اللحظة التي يقرر فيها الوكيل اتخاذ إجراء."
يأتي هذا الإطلاق مدعومًا بتمويل أولي بقيمة 6 ملايين دولار، سيُستخدم لتطوير المنتج، وتوسيع مختبر تهديدات Tenet، وتوسيع العمليات التشغيلية في سوق أمريكا الشمالية. قادت جولة التمويل شركة The Westly Group (المستثمر المبكر في SentinelOne Holdings Inc.)، بمشاركة شركة MizMaa Ventures Ltd. يضم مجلس مستشاري Tenet كلاً من ديفيد شويد، كبير مسؤولي أمن المعلومات السابق في Robinhood Markets Inc.، وريك سكوت، كبير مسؤولي أمن المعلومات السابق في بنك نيويورك ميلون (The Bank of New York Mellon Corp.).
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
