أخبار ar.wedoany.com، قامت شركة Parasail، وهي مؤسسة سحابية أمريكية، بنشر مزيج من وحدات معالجة NVIDIA Hopper وBlackwell GPU مع مسرّع الاستدلال d-Matrix Corsair لبناء بنية تحتية للذكاء الاصطناعي غير متجانسة. يستهدف هذا الحل خدمات الاستدلال للنماذج اللغوية الكبيرة، حيث يمكنه رفع معدل توليد الرموز (Token) بما يصل إلى 10 أضعاف، وتحسين كفاءة التكلفة لخدمات الاستدلال.
يكمن جوهر هذه البنية التحتية في تقسيم مهام الاستدلال إلى مرحلتين مختلفتين للمعالجة. تتطلب مرحلة ما قبل الملء (Pre-fill) في مقدمة الاستدلال للنماذج اللغوية الكبيرة معالجة سياق الإدخال، والكلمات التوجيهية، وسجل المحادثات، والمحتوى النصي الطويل، وهي كثيفة الحسابات، مما يجعلها أكثر ملاءمة لوحدات معالجة NVIDIA Hopper وBlackwell GPU. أما مرحلة فك التشفير (Decoding) في الجزء الخلفي من الاستدلال، فتتطلب توليد الرموز بشكل تسلسلي، وهي أكثر حساسية لزمن الوصول (Latency)، والوصول إلى الذاكرة، والإنتاجية المستدامة، مما يجعلها أكثر ملاءمة للمعالجة بواسطة مسرّعات الاستدلال المخصصة مثل d-Matrix Corsair. تقوم Parasail، من خلال تقنية التحسين التلقائي للنواة (Kernel)، بتوزيع أعباء العمل ديناميكيًا بين الأجهزة المختلفة، مما يسمح لوحدات GPU ومسرّعات ASIC المخصصة بتشغيل المهام الأكثر توافقًا مع بنيتها الخاصة، بدلاً من تحميل سلسلة الاستدلال الكاملة على نوع واحد من الرقائق.
تعتمد شريحة d-Matrix Corsair على بنية الحوسبة الرقمية داخل الذاكرة (Digital In-Memory Computing - D-IMC)، والتي تدمج وحدات الحوسبة مع موارد التخزين بشكل أكثر تقاربًا داخل نفس هيكل الشريحة. في أنظمة الاستدلال التقليدية، تحتاج البيانات إلى التنقل بشكل متكرر بين المعالج والذاكرة الخارجية، مما يتسبب في تكاليف زمنية وطاقية ومادية؛ تعمل بنية D-IMC في Corsair على تقليل هذا التنقل للبيانات. تُصنع هذه الشريحة بتقنية N6 من شركة TSMC، وتستخدم ركيزة عضوية (Organic Substrate) وذاكرة LPDDR5، وهي مصممة لنشر استدلال قابل للتوسع في مراكز البيانات.
يمثل نشر Parasail حالة عملية للإنتاج باستخدام الاستدلال غير المتجانس والمفصول (Heterogeneous Disaggregated Inference). تقوم منصة الشركة بتجميع موارد وحدات معالجة GPU عالية الأداء من أكثر من 40 مركز بيانات في 15 دولة، لتزويد المطورين بنقاط نهاية للنماذج وخدمات الاستدلال. بعد إضافة مسرّعات Corsair إلى البنية التحتية الحالية لوحدات NVIDIA GPU، يمكن لسلسلة الاستدلال أن تشكل تقسيمًا للعمل بين مرحلة ما قبل الملء على وحدات GPU ومرحلة فك التشفير على مسرّعات ASIC، مما يحسن كفاءة استخدام مجموعات Hopper وBlackwell الحالية.
الاستدلال غير المتجانس لا يعني مجرد إضافة نوع جديد من الرقائق، بل تغيير مسار تنفيذ خدمة الاستدلال. تركز مرحلة ما قبل الملء على الحسابات المصفوفية واسعة النطاق ومعالجة السياق، وتعد القدرة الحاسوبية المتوازية لوحدات GPU مناسبة لهذه المهام عالية الإنتاجية. بينما تقوم مرحلة فك التشفير بقراءة حالة النموذج، والذاكرة المؤقتة (Cache)، والرموز المولدة حديثًا بشكل مستمر، وهي أكثر حساسية للوصول إلى الذاكرة، وزمن استجابة الاستجابة، وكفاءة الطاقة. من خلال تقريب الحوسبة من التخزين، يقلل مسرّع Corsair من ضغط نقل البيانات أثناء عملية فك التشفير، مما يجعل مرحلة توليد الرموز أكثر ملاءمة للإخراج منخفض زمن الوصول.
تشمل مجموعة منتجات d-Matrix أيضًا مسرّع الاستدلال Corsair، ومسرّع الشبكة JetStream، وبرنامج Aviator، والحلول على مستوى الرفوف SquadRack، بهدف توفير بنية تحتية للاستدلال منخفضة زمن الوصول وعالية الكفاءة في استخدام الطاقة للذكاء الاصطناعي على نطاق مراكز البيانات. بعد أن قامت Parasail بربط مسرّعات Corsair بمجموعة موارد وحدات معالجة NVIDIA GPU، فإن الناتج ليس بديلاً لوحدات GPU، بل هو نمط نشر هجين حيث تتشارك وحدات GPU ومسرّعات الاستدلال المخصصة في تحمل مراحل الاستدلال المختلفة.
سيتم الكشف عن تفاصيل الأداء اللاحقة من خلال نتائج الاختبارات ودراسات الحالة بعد النشر الأولي. البنية الحالية واضحة بالفعل: تتولى وحدات معالجة Hopper وBlackwell GPU مرحلة ما قبل الملء كثيفة الحسابات، وتتولى مسرّعات Corsair ASIC مرحلة فك التشفير الحساسة لزمن الوصول، وتقوم Parasail، من خلال التوجيه الديناميكي وتحسين النواة، بتوزيع أعباء عمل النماذج المختلفة على الأجهزة المناسبة، لتنتج في النهاية خدمة الرموز السحابية الموجهة للمطورين وعملاء المؤسسات.
