أخبار ar.wedoany.com، أصدر فريق "أوركا" (Orca Team) التابع لمشروع "ووجي·روبوبرين" (悟界·RoboBrain) في معهد بكين للذكاء الاصطناعي (BAAI) تقريرًا فنيًا بعنوان "أوركا: العالم في عقلك" (Orca: The World is in Your Mind)، يهدف إلى استكشاف مسار يتيح للنموذج تعلم تمثيل موحد لحالة العالم أولاً، ثم استخلاص قدرات الفهم والتنبؤ والفعل منه. الموقع الرسمي للمشروع هو https://orca-wm.github.io، ويمكن الاطلاع على النص الكامل للتقرير الفني عبر https://arxiv.org/abs/2606.30534. وقد أثار هذا الإصدار اهتمام الأوساط البحثية العالمية، حيث تركزت المناقشات حول "نموذج العالم القائم على التمثيل متعدد الوسائط"، معتبرة أن "أوركا" يحاول تعلم الحالات المشتركة وقوانين التطور الكامنة خلف الوسائط المختلفة ضمن فضاء كامن موحد للعالم. وأشارت بعض التعليقات إلى أن "أوركا" أقرب إلى الشكل المبكر لنموذج العالم العام، أي تعلم كيفية تغير العالم أولاً، ثم تطبيق هذا التمثيل على المهام النهائية. كما تصدر "أوركا" قائمة "الأوراق اليومية" (Daily Papers) الشهرية.
الفكرة الأساسية لنموذج "أوركا" هي "التنبؤ بالحالة التالية" (Next-State Prediction)، أي أن النموذج يركز على تحديد الحالة الحالية للعالم وكيفية انتقال هذه الحالة إلى حالة أخرى في ظل التطور الطبيعي، أو الشروط الحدثية، أو التدخلات الخارجية. قام الفريق بتجريد أساليب التعلم إلى فئتين: التعلم اللاواعي (Unconscious Learning) الذي يتعلم من مقاطع الفيديو المتصلة التغيرات الطبيعية والكثيفة في الحالة؛ والتعلم الواعي (Conscious Learning) الذي يُدخل اللغة والأحداث، مما يجعل انتقال الحالة مقيدًا بشروط دلالية. تعمل فئتا التعلم معًا على بناء متغير كامن للعالم قادر على التعبير عن حالات العالم ودعم نمذجة انتقال الحالة.
في فئة التعلم اللاواعي الأولى، يتعلم النموذج تغيرات الحالة من مقاطع الفيديو المتصلة دون الاعتماد على تعليقات لغوية صريحة، مثل حركة الأجسام، وتلامس اليد مع الأجسام، وتطور المشهد بمرور الوقت. أما فئة التعلم الواعي الثانية فتُدخل قيودًا لغوية وحدثية، مما يمكن النموذج من إقامة روابط بين الشروط اللغوية والملاحظات الحالية، وتعلم تغيرات حالة متفرقة ولكنها أكثر دلالة.
تعمل فئتا التعلم معًا على بناء متغير كامن للعالم قادر على التعبير عن حالات العالم ودعم نمذجة انتقال الحالة.
قام فريق "أوركا" ببناء خط أنابيب آلي للفحص والوسم، حيث عالج بيانات من الإنترنت لإنتاج قاعدة بيانات تضم 125 ألف ساعة من الفيديو، و160 مليون وسم حدث، و11.5 مليون سؤال وجواب بصري (VQA). تغطي البيانات مصادر متعددة مثل التفاعلات من منظور الشخص الأول، ومعالجة الأجسام من منظور الشخص الثالث، وفيديوهات تنفيذ الروبوتات، والمشاهد الديناميكية الطبيعية، وانتقال الحالة على مستوى الأحداث، والأسئلة والأجوبة البصرية العامة، وذلك لتعلم فضاء كامن موحد للعالم من إشارات العالم الحقيقي.
فيما يتعلق بالبنية التحتية للتدريب، قام فريق معهد بكين للذكاء الاصطناعي بإعادة هيكلة شاملة للنظام بناءً على إطار عمل "فلاجسكيل" (FlagScale) المطور داخليًا، بما في ذلك ترقية FSDP2، وخسارة الإنتروبيا المتقاطعة المجزأة (Chunked Cross-Entropy Loss)، وتحسين الجلب الأمامي/الخلفي. على مجموعة عناقيد H100، أدت هذه التحسينات إلى رفع إنتاجية التدريب إلى 2.91 عينة/ثانية/وحدة معالجة رسومية، محققة تسارعًا بمقدار 4.4 أضعاف مقارنة بخط الأساس StarVLA.
للتحقق من فعالية تمثيل العالم، قام فريق "أوركا" في المرحلة النهائية بتجميد الشبكة الأساسية وتدريب وحدات قراءة خفيفة الوزن فقط. صممت التجارب ثلاثة أنواع من القراءة: القراءة النصية (Text Readout) للتحقق من قدرة النموذج على تحويل تمثيل العالم إلى قدرات فهم واستدلال؛ القراءة الصورية (Image Readout) للتحقق من قدرة النموذج على التنبؤ بالحالة البصرية المستقبلية بناءً على الحالة الحالية والظروف؛ قراءة الفعل (Action Readout) للتحقق من قدرة النموذج على نقل تمثيل العالم إلى التحكم الحقيقي في الروبوت. تتوافق هذه القدرات الثلاث مع الفهم والتنبؤ والفعل على التوالي.
أظهرت النتائج التجريبية أنه مع زيادة حجم بيانات التدريب المسبق، استمرت خسارة تدريب "أوركا" في الانخفاض، وأظهرت نقاط التفتيش في مراحل التدريب المختلفة تحسنًا متزامنًا في أداء القراءة النصية والصورية والفعلية. جميع نتائج المقارنة مستمدة من نفس مجموعة نقاط تفتيش الشبكة الأساسية المُدرَّبة مسبقًا، ولم تُستخدم بيانات لتحسين التصنيفات.
في مهام توليد النصوص والأسئلة والأجوبة البصرية، حقق نموذج "أوركا" بحجم 4 مليارات معلمة أداءً متوسطًا أعلى مقارنة بعدة نماذج لغوية بصرية ونماذج عالمية، مع تركيز التحسن في أبعاد مثل انتقال الحالة، وتطور الأحداث، وفهم الحركة الديناميكية.
في تجارب القراءة الصورية، ركزت قراءة "أوركا" الصورية على معقولية الحالة المستقبلية، مما أتاح الحفاظ بشكل أفضل على شكل الروبوت، وتخطيط الأجسام، واتساق المشهد، والقيود المفروضة من التعليمات.
في تجارب قراءة الفعل على الروبوتات الحقيقية، لم يستخدم نموذج "أوركا" في مرحلة التدريب المسبق مسارات روبوتية تحمل وسوم فعل. في المهام النهائية، تم تجميد الشبكة الأساسية لنموذج "أوركا"، وتم ربط خبير فعل من نمط DiT تم تدريبه من الصفر فقط، مع استخدام 200 مسار داخل المجال لكل مهمة للتدريب اللاحق. أظهرت النتائج أنه في مهام التعميم على الأجسام والمشاهد خارج التوزيع (OOD)، لا يزال "أوركا" يحقق مكاسب ملحوظة.
أظهرت تجارب الإزالة أن أهداف التدريب الثلاثة - انتقال الحالة اللاواعي، وانتقال الحالة الواعي، والإشراف اللغوي للأسئلة والأجوبة البصرية - تؤدي أدوارًا مختلفة.
ناقش فريق "أوركا" في التقرير الفني القيود الحالية. يشير التقرير إلى أن نموذج العالم لا ينبغي أن يُعرَّف بنمط إخراج واحد فقط، بل يجب أن يتعلم كيف يتم تمثيل العالم، وكيف يتغير، وكيف يمكن لهذا التمثيل أن يدعم الفهم والتنبؤ والفعل. يمكن لهذا المسار في المستقبل أن يخدم أيضًا مجالات مثل الأنظمة الفيزيائية، والعمليات الحياتية، والكون الكلي، وعالم الكم المجهري، والعلوم التجريبية. تتطلب المجالات المختلفة بيانات وأساليب نمذجة مختلفة، لكن مسألة "كيفية تعلم تغير حالة العالم" بحد ذاتها تحمل أهمية أكثر أساسية.
