أخبار ar.wedoany.com، في 12 يونيو، وقعت هيئة تطوير الإعلام والاتصالات في سنغافورة مع شركة مايكروسوفت مذكرة تفاهم للتعاون في مجال أمن وسلامة الذكاء الاصطناعي. سيركز الطرفان على تقييم نماذج الذكاء الاصطناعي، وأبحاث الوكلاء المستقلين، وتبادل المعرفة، وسياسات الوصول إلى نماذج الذكاء الاصطناعي المتطورة. كما سيشارك معهد سنغافورة لأبحاث سلامة الذكاء الاصطناعي في الأعمال ذات الصلة. وتركز الاتفاقية بشكل خاص على بناء آليات الاختبار الآمن، وتحديد المخاطر، والحوكمة بعد دخول أنظمة الذكاء الاصطناعي المتقدمة حيز التطبيق العملي.
يركز هذا التعاون على الوكلاء المستقلين، وهم أكثر الموضوعات إثارة للاهتمام في تطور الذكاء الاصطناعي حالياً. على عكس روبوتات المحادثة التقليدية، يمكن للوكلاء المستقلين استدعاء الأدوات، وتقسيم المهام، وتنفيذ العمليات، وتحقيق الأهداف بشكل متواصل ضمن نطاق معين. إمكانات تطبيقاتهم أقوى، وحدود المخاطر أكثر تعقيداً. عند تبني هذه الأنظمة، تحتاج الشركات والقطاع العام إلى التأكد مما إذا كان الوكيل يمكنه استدعاء البيانات بشكل غير مصرح به، وما إذا كان يمكن مراقبته باستمرار، وما إذا كانت سلسلة المسؤولية البشرية محفوظة، وما إذا كان يمكن اكتشاف السلوك غير الطبيعي في الوقت المناسب.
سبق لسنغافورة أن أدرجت حوكمة الوكلاء المستقلين كأولوية في سياسات الذكاء الاصطناعي. في يناير 2026، أصدرت سنغافورة إطاراً لحوكمة الذكاء الاصطناعي موجه للوكلاء المستقلين، مؤكدة على ضرورة إنشاء آليات لتصنيف المخاطر، وتحديد المسؤوليات البشرية، والضوابط التقنية، ومراقبة التشغيل عند نشر الشركات لهذه الوكلاء. هذا التعاون مع مايكروسوفت يدفع إطار الحوكمة إلى مستويات أدوات التقييم، وطرق الاختبار، وتنفيذ السياسات.
أحد العناصر الهامة في الاتفاقية هو التطوير المشترك لأساليب وأدوات ومعايير تقييم الذكاء الاصطناعي. بعد دخول نماذج الذكاء الاصطناعي إلى سيناريوهات الحكومة، والمالية، والرعاية الصحية، والاتصالات، والطاقة، والبنية التحتية الحيوية، يصبح الاعتماد فقط على الاختبارات الذاتية من قبل الجهة المصدرة للنموذج غير كافٍ لتلبية احتياجات المراجعة الخارجية. يجب أن يغطي نظام التقييم جوانب قدرات النموذج، وموثوقية المخرجات، والتحيز والتمييز، والأمن السيبراني، وتسرب البيانات، والعمليات غير المصرح بها، ومخاطر إساءة الاستخدام. بالنسبة لأنظمة الذكاء الاصطناعي القادرة على استدعاء الأدوات، يجب أن يمتد التقييم ليشمل سلسلة التنفيذ، وليس فقط نتائج المخرجات النصية.
كما تم إدراج تقييم سلامة الذكاء الاصطناعي متعدد اللغات ضمن نطاق التعاون. تقع سنغافورة في بيئة متعددة اللغات، حيث تُستخدم الإنجليزية، والصينية، والماليزية، والتاميلية وغيرها بالتوازي. قد تظهر أنظمة الذكاء الاصطناعي أداءً أمنياً مختلفاً في اللغات المختلفة. اجتياز نموذج لاختبارات السلامة باللغة الإنجليزية لا يعني بالضرورة استقراره في اللغات الأخرى. يمكن أن يساعد الاختبار متعدد اللغات في اكتشاف الاختلافات في تجاوز التعليمات، وتحديد المحتوى الحساس، وسوء الفهم عبر اللغات، ومعالجة السياقات الثقافية.
يتضمن التعاون أيضاً تبادل المعرفة. ستتبادل هيئة تطوير الإعلام والاتصالات في سنغافورة ومايكروسوفت نتائج أبحاث سلامة الذكاء الاصطناعي، وأطر الحوكمة، والخبرات العملية، وستشاركان الأساليب ذات الصلة مع الشركاء في النظام البيئي عند الاقتضاء. بالنسبة للجهات الحكومية، تمتلك شركات التكنولوجيا خبرة مباشرة في تدريب النماذج، ونشرها، ومراقبتها، واختبار الفرق الحمراء؛ وبالنسبة لشركات التكنولوجيا، يركز القطاع العام أكثر على المخاطر الاجتماعية، وسلامة البنية التحتية، وقابلية تنفيذ الأنظمة. بعد تبادل الطرفين، يمكن جعل أبحاث سلامة الذكاء الاصطناعي أقرب إلى بيئات النشر الفعلية.
تعد سياسة الوصول الموثوق إلى نماذج الذكاء الاصطناعي المتطورة من بين الموضوعات الأكثر واقعية في هذه الاتفاقية. عادة ما تمتلك عدد قليل من الشركات النماذج المتقدمة، وتحتاج الجهات الخارجية إلى الوصول إلى النماذج لإجراء اختبارات السلامة، لكن الوصول إلى النماذج ينطوي على أسرار تجارية، وأمن النظام، ومخاطر إساءة الاستخدام. ستدرس هيئة تطوير الإعلام والاتصالات في سنغافورة، ومعهد سنغافورة لأبحاث سلامة الذكاء الاصطناعي، ومايكروسوفت، وجهات حكومية أخرى أطر السياسات ذات الصلة، لاستكشاف كيف يمكن للحكومة ومشغلي البنية التحتية الوصول إلى النماذج المتطورة في ظل ظروف خاضعة للرقابة، لأغراض تقييم السلامة والتحقق من المخاطر.
يمكن أن تؤثر مثل هذه الدراسات السياسية على طرق تنظيم الذكاء الاصطناعي في المستقبل. إذا لم تحصل الحكومة على صلاحيات اختبار كافية، فمن السهل أن يظل التقييم الخارجي محصوراً في واجهات برمجة التطبيقات العامة وعينات محدودة؛ وإذا كان الوصول مفتوحاً بشكل مفرط، فقد يزيد من خطر التحليل العكسي للنموذج أو إساءة استخدامه. يجب أن يحقق إطار الوصول الموثوق توازناً بين عمق الاختبار، والتحكم في الصلاحيات، وآليات السرية، وتقسيم المسؤوليات، واستخدام النتائج.
تواصل سنغافورة في السنوات الأخيرة دمج حوكمة الذكاء الاصطناعي مع سياسات الاقتصاد الرقمي. لم يعد أمن الذكاء الاصطناعي مجرد نقاش حول المبادئ الأخلاقية، بل يدخل مرحلة علم التقييم، ومعايير الاختبار، وأدوات السياسات. من خلال التعاون مع مايكروسوفت، يمكن لسنغافورة الاستفادة من خبرة الشركة في النماذج المؤسسية وخدمات الحوسبة السحابية لتحسين مسارات التشغيل لقضايا مثل الوكلاء المستقلين، والتقييم متعدد اللغات، والوصول إلى النماذج المتطورة.
بالنسبة لمايكروسوفت، فإن المشاركة في تعاون سنغافورة لأمن الذكاء الاصطناعي يساعد أيضاً في ترسيخ نظام الذكاء الاصطناعي المسؤول الخاص بها في السوق الآسيوية. عند تبني العملاء من الشركات والقطاع العام لخدمات الذكاء الاصطناعي، يزداد اهتمامهم بقابلية تفسير النموذج، وأمن النظام، وحماية البيانات، وإثبات الامتثال. يمكن أن تساهم الأبحاث المشتركة حول أساليب التقييم وأطر الحوكمة في بناء شروط ثقة أوضح لاستخدام أنظمة الذكاء الاصطناعي المتقدمة في سيناريوهات الحكومة والشركات والبنية التحتية.
يوضح هذا التعاون أن المنافسة في مجال الذكاء الاصطناعي قد توسعت من قدرات النماذج إلى قدرات التقييم الأمني والحوكمة. بعد دخول الوكلاء المستقلين إلى المزيد من العمليات التجارية، ستصبح أدوات التقييم، وقواعد الوصول، والتعاون بين القطاعات عناصر أساسية في تطوير صناعة الذكاء الاصطناعي. لن تؤدي اتفاقية سنغافورة ومايكروسوفت بشكل مباشر إلى إطلاق منتج واحد، لكنها ستؤثر على منهجيات اختبار نماذج الذكاء الاصطناعي، وتصميم السياسات، والنشر الموثوق.
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
