شركة لونغسي الصينية تشغل نموذج 397B على منصة AMD Ryzen AI

أخبار ar.wedoany.com، أطلقت AMD مؤخراً منصة Ryzen AI Halo بسعر 4000 دولار أمريكي، مما أثار مقارنات مع منتج DGX Spark الأغلى ثمناً من شركة NVIDIA. وذهبت شركة تخزين الذاكرة لونغسي (Longsys) إلى أبعد من ذلك، حيث عرضت تشغيل نموذج ذكاء اصطناعي بحجم 397 مليار معلمة محلياً على هذه المنصة. استخدم العرض التوضيحي معالج Ryzen AI Max+ 395 ذو 16 نواة مع تكوين ذاكرة وصول عشوائي (RAM) بسعة 128 جيجابايت، محققاً ضغطاً فورياً للبيانات عبر تقنيات SPU و iSA المطورة داخلياً، مما مكّن الجهاز من تشغيل نموذج يتطلب عادةً ذاكرة فيديو (VRAM) تتراوح بين 200 و 250 جيجابايت، وذلك باستخدام ذاكرة موحدة (Unified Memory) بسعة 128 جيجابايت فقط (منها 96 جيجابايت متاحة لوحدة معالجة الرسوميات GPU).

يُعتقد أن النموذج هو نسخة مخصصة مشتقة من نموذج Qwen 3.5 397B (A17B) من شركة علي بابا، والذي يعتمد على نهج الخبراء المختلطين (MoE). حتى مع التكميم (Quantization) بتقنية INT4، لا تزال متطلبات ذاكرته تتجاوز بكثير الذاكرة المتاحة في الجهاز المستخدم في العرض. وأوضحت شركة لونغسي أن نهجها يستخدم تقنيات تفريغ الخبراء (Expert Offloading)، وإدارة التخزين المؤقت الذكية (Smart Cache Management)، وخوارزميات التحميل المسبق التنبؤي (Predictive Prefetch)، حيث يتم تفريغ الخبراء غير النشطين من ذاكرة الوصول العشوائي الديناميكية (DRAM) إلى مخزن مؤقت كبير وسريع، ويمكن لرقاقة الذكاء الاصطناعي إعادة تحميلهم عند الحاجة. يهدف هذا النهج إلى معالجة التحديات المرتبطة بالعدد الهائل من المعاملات في نماذج اللغات الكبيرة القائمة على MoE، والتوسع السريع لذاكرة التخزين المؤقت للمفاتيح والقيم (KV Cache)، وتأخير الإدخال/الإخراج (I/O Latency). وتدعي الشركة أنه من خلال استخدام طبقة التخزين المؤقت لتقليل الطلب على ذاكرة DRAM، يمكن استيعاب ضعف كمية البيانات في محركات أقراص تخزين تصل سعتها إلى 128 جيجابايت. ومن الجدير بالذكر أن لونغسي لم تقدم تفاصيل حول قوة الحوسبة مقاسة بعدد الرموز (tokens) في الثانية، حيث أن رقائق Ryzen AI محدودة نسبياً في هذا المؤشر مقارنة بمعظم منتجات وحدات معالجة الرسوميات (GPU) الحديثة للذكاء الاصطناعي. ومع ذلك، يشير هذا النهج في التعامل مع التخزين كذاكرة إلى إمكانية تجاوز قيود الذاكرة من خلال استخدام التخزين السريع، مما يسمح بتشغيل نماذج متطورة كانت تتطلب أجهزة ذكاء اصطناعي باهظة الثمن على أجهزة صغيرة الحجم يمكن وضعها في راحة اليد.

تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com