أخبار ar.wedoany.com، أعلن برايان سيلفيرثورن، مدير مختبر أبحاث الاستقلالية للذكاء الاصطناعي العام (AGI Autonomy research lab) في أمازون، مؤخراً أن طريقة قياس موثوقية وكلاء الذكاء الاصطناعي تتحول من الاعتماد على مقاييس الأداء الثابتة إلى التركيز على الاتساق والمتانة والقابلية للتنبؤ والأمان. وأشار سيلفيرثورن إلى أن تقييمات EVAL التي تعتمد عليها المعايير الصناعية لا تقدم سوى لمحة ثابتة عن الأداء، مما يصعّب فهم قابلية التنبؤ لأنظمة الذكاء الاصطناعي عبر سيناريوهات مختلفة، وهو ما يمثل تحدياً رئيسياً أمام الشركات عند منح وكلاء الذكاء الاصطناعي صلاحية الوصول إلى أنظمتها.
أدلى سيلفيرثورن بهذه التصريحات في مقابلة قبيل انعقاد مؤتمر VB Transform 2026، المقرر في 14 و15 يوليو في مينلو بارك. وكشف أن استراتيجية أمازون لا تفترض أن النماذج آمنة وموثوقة بذاتها، بل تركز على فصل بنية النظام. وتشمل الإجراءات المحددة إدخال بيئات اختبار معزولة (Sandbox)، تتيح لوكلاء الذكاء الاصطناعي اقتراح تغييرات ضمن نطاق خاضع للرقابة، على أن يراجعها البشر قبل التنفيذ. تهدف هذه المنهجية إلى سد فجوة الثقة في التطبيقات المؤسسية من خلال إعطاء الأولوية للتفاعلات القابلة للتحقق، خاصة في القطاعات عالية المخاطر والحساسة مثل القطاع المالي.
أظهر استطلاع Pulse Research للربع الثاني الذي أجرته VentureBeat، شمل أكثر من 100 من كبار القادة التقنيين والمشترين، أن 4% فقط منهم على استعداد للاعتماد فقط على حواجز الحماية للنماذج لضمان أمان الذكاء الاصطناعي. ومن بين أكثر المخاوف التي أبداها المشاركون، أعرب 40% عن قلقهم من الوصول غير المصرح به إلى الأدوات أو البيانات، بينما أشار 27% إلى مخاطر التلاعب بالتعليمات أو حقنها. يخطط سيلفيرثورن لمشاركة تفاصيل بناء وكلاء ذكاء اصطناعي موثوقين في أمازون خلال مؤتمر VB Transform 2026، وعرض كيفية الانتقال من تغليف وكيل واحد إلى بنية متعددة الأدوات قادرة على التصحيح الذاتي أثناء التنفيذ.
يتضمن المؤتمر أيضاً محاضرات أخرى تركز على عمليات وتقييم الوكلاء، مثل مشاركة ماناسي جوشي، مديرة الذكاء والذكاء الاصطناعي للأنظمة في Waymo، التي ستستعرض تجربة الشركة في بناء ذكاء اصطناعي آمن وفعال في العالم المادي.
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
