باحثون من OpenAI وآخرون يحذرون من تسارع أتمتة البحث والتطوير في مجال الذكاء الاصطناعي

أخبار ar.wedoany.com، في 28 سبتمبر، نشر مشروع العلوم والسياسات المتعلقة بالذكاء الاصطناعي بجامعة كامبريدج تقريراً بحثياً بعنوان "ماذا لو أدت أتمتة البحث والتطوير في الذكاء الاصطناعي إلى 'انفجار ذكاء'؟". شارك في التقرير أكثر من 20 باحثاً في مجال الذكاء الاصطناعي، من بينهم كبير العلماء في OpenAI جاكوب باتشوكي، والمؤسس المشارك في Anthropic جاك كلارك، وكبير العلماء في مايكروسوفت إريك هورفيتز، وداون سونغ المرتبطة بأبحاث الذكاء الاصطناعي في ميتا، كما ضُمّ جيفري هينتون ويوشوا بنجيو إلى قائمة المؤلفين. وشارك باحثو الشركات المعنية بصفتهم الشخصية.

يتخذ التقرير من درجة أتمتة البحث والتطوير في الذكاء الاصطناعي مؤشراً رئيسياً للرصد. واستشهدت الدراسة ببيانات داخلية من Anthropic تفيد بأن نسبة الشيفرة المنتجة بالذكاء الاصطناعي من إجمالي الشيفرة المعتمدة في الشركة ارتفعت من مستويات أحادية الرقم المنخفضة إلى أكثر من 80% خلال الفترة من يناير 2025 إلى مايو 2026؛ كما ارتفعت نسبة أعمال البحث والتطوير المنجزة بالذكاء الاصطناعي والتي تتطلب إشرافاً بشرياً محدوداً من نحو 1% إلى 26% خلال الفترة من مارس إلى أغسطس 2026. وبناءً على ذلك، يطرح التقرير احتمال أن تتولى أنظمة الذكاء الاصطناعي معظم عمليات البحث والتطوير في مجال الذكاء الاصطناعي خلال السنوات المقبلة، مع احتمال استمرار تسارع أتمتة بعض مهام البحث والتطوير.

يناقش التقرير سيناريو بحث وتطوير تكراريّاً: تشارك فيه أنظمة الذكاء الاصطناعي في بحوث النماذج وهندسة البرمجيات والتجارب والتقييم، ثم تُستخدم نتائج البحث والتطوير لتطوير جيل جديد من أنظمة الذكاء الاصطناعي الأكثر قدرة. وإذا استمر هذا الحلقة في التسارع، يصف المؤلفون النمو السريع للقدرات الناتج عن ذلك بأنه "انفجار ذكاء"، ويُعرَّف بأنه ضغط التقدم في قدرات الذكاء الاصطناعي الذي كان يتطلب سنوات لإنجازه في دورات تمتد لأشهر أو أقل. ويوضح التقرير في الوقت نفسه أن هذا السيناريو لا يزال محفوفاً بعدم يقين كبير، إذ قد يحدّ من وتيرة تسارع البحث والتطوير كلٌّ من إمدادات الحوسبة والبيانات، والعوائد الحدية لقدرات النماذج، ومهام البحث والتطوير التي يصعب أتمتتها، ودورات تدريب النماذج الطويلة.

تشمل التوصيات السياسية التي أوردها التقرير إنشاء آلية تقارير موحّدة لدرجة أتمتة البحث والتطوير في الذكاء الاصطناعي، وتعزيز وضوح رؤية الحكومة لمستوى أتمتة عمليات البحث والتطوير لدى شركات الذكاء الاصطناعي المتقدمة؛ ودراسة الآليات التقنية والمؤسسية للتحكم في وتيرة البحث والتطوير خلال مراحل النمو السريع للقدرات؛ ووضع خطط استجابة طارئة للنمو السريع للقدرات، ودراسة آليات التنسيق متعددة الأطراف. ويقترح المؤلفون أيضاً أن تغطي الاستعدادات السياسية ذات الصلة سيناريوهات تجاوز سرعة نمو قدرات الذكاء الاصطناعي لسرعة تكيّف المجتمع، وتراجع قدرة البشر على الإشراف على أنظمة الذكاء الاصطناعي عالية الاستقلالية، والتركيز الشديد للقدرات المتقدمة في الذكاء الاصطناعي.