شركة "تشاينا يونيكوم" تصدر الكتاب الأبيض حول "تقنيات تحسين الاستدلال للنماذج اللغوية الكبيرة الموجهة نحو تشغيل الرموز"

أخبار ar.wedoany.com، أصدرت شركة "تشاينا يونيكوم" للبيانات الضخمة والذكاء الاصطناعي، بالتعاون مع جامعة تسينغهوا، وجامعة بكين، ومختبر تشجيانغ، وعدد من الجامعات والمؤسسات البحثية والشركاء الصناعيين، أول كتاب أبيض في القطاع بعنوان "تقنيات تحسين الاستدلال للنماذج اللغوية الكبيرة الموجهة نحو تشغيل الرموز (Token)".

يطرح الكتاب الأبيض لأول مرة إطارًا تقنيًا للاستدلال من أربع طبقات: "دمج النماذج المتعددة - تحسين النموذج - تكامل النموذج مع الحوسبة - تكامل الحوسبة مع الشبكة والنموذج"، ويستعرض بشكل منهجي التقنيات الرئيسية على كل مستوى والوضع الحالي في القطاع، مع تحليل قيمة تطبيق هذه التقنيات في سيناريوهات الأعمال الفعلية. تهدف هذه التقنيات إلى خفض تكلفة إنتاج الرموز، ورفع كفاءة خدمة الرموز، وضمان استقرار إمداد الرموز، مما يدفع خدمات النماذج اللغوية الكبيرة من مرحلة "القابلية للاستدعاء" إلى مرحلة "القابلية للتشغيل".

على مستوى دمج النماذج المتعددة، تشمل التقنيات قياس حدود قدرات النموذج، والتوجيه الذكي، والتسلسل الهرمي للنماذج، وتكامل النماذج، وذلك لحل مشكلة كيفية مطابقة الطلبات المختلفة مع النموذج المناسب.

على مستوى تحسين النموذج، تشمل التقنيات آليات الانتباه منخفضة التعقيد، وتحسين بنية الخبراء المختلطة، وفك التشفير التخميني، وقياس كمية النموذج، وتقطير النموذج، وتحسين سلسلة التفكير، وإدارة الذاكرة، وضغط ذاكرة التخزين المؤقت للمفاتيح والقيم، وتحسين مسار توليد النماذج الانتشارية، بهدف خفض تكلفة إنتاج الرمز الواحد.

على مستوى تكامل النموذج مع الحوسبة، تشمل التقنيات دمج العوامل الحسابية، وتحسين الوصول إلى الذاكرة، وتسريع العوامل الحسابية الأساسية، وضبط معلمات المحرك، وتكييف بنية النموذج، لتعزيز كفاءة التنفيذ بين النموذج والأجهزة.

على مستوى تكامل الحوسبة مع الشبكة والنموذج، تشمل التقنيات التوازي في الاستدلال عبر أجهزة متعددة، والتجميع الديناميكي للطلبات، وإعادة استخدام ذاكرة التخزين المؤقت، والتوجيه اللاصق للجلسات، وموازنة الأحمال، وتحديد معدل التدفق، وخفض مستوى الخدمة، وذلك لضمان استقرار إمداد خدمات الرموز على نطاق واسع.