أخبار ar.wedoany.com، أطلقت شركة iFlytek رسميًا في 19 يوليو منصة Spark Token Factory، بهدف مساعدة الشركات على تحسين كفاءة تطبيق النماذج اللغوية الكبيرة ومستوى إدارتها، وبناء قاعدة البنية التحتية للنماذج اللغوية الكبيرة الموجهة للمستقبل.
تواجه الشركات خلال التطبيق الواسع النطاق للذكاء الاصطناعي مجموعة من التحديات في الإدارة التشغيلية. فمع تزايد أنواع النماذج باستمرار، وارتفاع تكاليف الاستدعاء، وزيادة متطلبات استقرار النظام، يتخلف بناء القدرات في مجالات مثل الإدارة عبر النماذج، والتحكم في التكاليف، والحوكمة الأمنية، والمراقبة التشغيلية. غالبًا ما تحتاج الشركات إلى ربط خدمات نماذج متعددة في وقت واحد لدعم سيناريوهات أعمال مختلفة مثل مساعدي الأكواد البرمجية، وخدمة العملاء الذكية، والإجابة على الأسئلة المعرفية، وتوليد المحتوى، ومعالجة المستندات. يختلف تعقيد المهام بشكل كبير، ولكن في التطبيقات العملية غالبًا ما يُستخدم نموذج موحد لمعالجتها، مما يؤدي إلى انخفاض كفاءة استخدام الموارد وارتفاع مستمر في تكاليف الرموز (Token). كما يفرض التشغيل المتوازي لنماذج متعددة متطلبات أعلى على استقرار النظام والحوكمة الأمنية والإدارة التشغيلية. يتحول بناء الذكاء الاصطناعي في الشركات تدريجيًا من مرحلة "بناء قدرات النماذج" إلى مرحلة "بناء البنية التحتية للذكاء الاصطناعي"، حيث لم يعد التركيز منصبًا فقط على قدرات النموذج نفسه، بل على كيفية دمج قدرات النموذج فعليًا في نظام الأعمال لتحقيق تشغيل مستقر وإدارة موحدة وتحسين مستمر.
تُعرّف منصة Spark Token Factory كمنصة توجيه ذكية للنماذج اللغوية الكبيرة على مستوى المؤسسات، حيث توفر قدرات أساسية مثل الربط الموحد للنماذج، وجدولة التوجيه الذكية، وتحسين تكاليف الرموز (Token)، والحوكمة الأمنية والامتثالية، لتشكل حلقة كاملة تغطي "الربط - الحوكمة - المراقبة - التشغيل"، وتبني مدخلاً موحدًا لخدمات النماذج اللغوية الكبيرة للمؤسسات، مما يحقق إدارة قابلة للتحكم والتتبع لموارد النماذج اللغوية الكبيرة.
تعتمد وظيفة التوجيه الذكية على أبعاد متعددة مثل طول الاستفسار (Prompt)، والقواعد المسبقة، والقواعد المخصصة، وعدد جولات الحوار، والارتباط بالجلسة (session affinity) لتقييم تعقيد المهمة بشكل شامل، وإجراء إدارة تصنيف ذكية من المستوى L1 إلى L3 للطلبات. تأخذ المنصة في الاعتبار خمسة عوامل رئيسية هي الجودة، والتكلفة، وزمن الاستجابة، والتوفر، ومستوى الأمان لمطابقة موارد النموذج المناسبة، مما يسمح باستدعاء نماذج أكثر فعالية من حيث التكلفة للمهام البسيطة، وتخصيص نماذج عالية القدرة للمهام المعقدة. يمكن التحكم في متوسط زمن اتخاذ القرار بأكمله في حدود 100 مللي ثانية. من خلال قدرة التوجيه الذكية، يمكن للمنصة تقليل ضغط استدعاء النماذج كبيرة الحجم بشكل فعال، مما يوفر مساحة أكبر لتحسين التكاليف للمؤسسات.
في سيناريوهات النشر الخاص المحلي (المعتمد على التقنيات الصينية)، تقوم منصة Spark Token Factory بتحسينات هندسية شاملة من البداية إلى النهاية للنماذج اللغوية الكبيرة مفتوحة المصدر السائدة بناءً على خصائص أجهزة سلسلة Ascend. على جانب الذاكرة (VRAM)، تستخدم تقنيات متعددة لضغط النماذج وتحسين الدقة لتقليل استهلاك الذاكرة مع الحفاظ على الدقة ضمن الحدود المسموح بها. على جانبي الحوسبة والاتصالات، تقوم بدمج عوامل الحوسبة الأساسية وإعادة جدولة الاتصالات متعددة البطاقات لتحقيق التوازي والتداخل بين الحوسبة والاتصالات. على جانبي التخزين المؤقت والجدولة، تستخدم إدارة ذاكرة تخزين مؤقت موزعة عبر العقد (Distributed KV Cache) وجدولة تخزين متعددة المستويات، مع إدخال توجيه تخزين مؤقت يدرك السياق واستراتيجيات إعادة استخدام السياق وإعادة تشكيله. على جانب فك التشفير، تُدخل آلية تسريع فك التشفير المتوازي الموجهة لأجهزة Ascend. تظهر البيانات المقاسة أنه في ظل نفس ظروف الأجهزة، مقارنة بإطار vLLM-Ascend مفتوح المصدر، تزداد كفاءة الاستدلال بحوالي 5 مرات، وينخفض زمن الاستجابة للرمز الأول (First Token) بنسبة 30%–40%.
فيما يتعلق بمنظومة الأمان، تتبنى منصة Spark Token Factory هيكل فصل السلطات الثلاث، حيث لا تمس الإدارة بالبيانات، ولا تمس العمليات بالصلاحيات، ولا تمس المراجعة بالأعمال، وتكون العناصر الثلاثة مستقلة ومتقيدة ببعضها البعض. تقوم المنصة تلقائيًا بإنشاء سجلات تدقيق غير قابلة للتلاعب لجميع العمليات الرئيسية، تغطي ست فئات من العمليات بما في ذلك الوصول إلى البيانات، وتغيير الصلاحيات، واستدعاء النماذج، وتصدير البيانات، لتلبية متطلبات معايير حماية أمن المعلومات (等保). تغطي حماية المعلومات الحساسة البيانات الشخصية وبيانات الأعمال، ويتم توجيهها بشكل هرمي لضمان عدم خروج البيانات الحساسة عن النطاق المحدد.
توفر منصة Spark Token Factory قدرة تدقيق شاملة لسجلات المسار من البداية إلى النهاية، مما يحقق تسجيل العملية الكاملة للطلب من دخوله المنصة حتى عودة النتيجة النهائية. من خلال تتبع السجلات، وتسجيل قرارات التوجيه، وإحصائيات استهلاك الرموز (Token)، وتحليل إسناد التكاليف، تمكن المنصة المؤسسات من فهم حالة التشغيل واستهلاك الموارد لكل استدعاء نموذج. وبالاقتران مع إدارة الميزانية، وتحليل العائد على الاستثمار (ROI)، والتقارير المرئية، توفر المنصة دعمًا بياناتيًا لتحسين العمليات اللاحقة وتخطيط الموارد. يُعد إطلاق منصة Spark Token Factory إكمالاً لتوزيع قدرات شركة iFlytek في مجال البنية التحتية للذكاء الاصطناعي على مستوى المؤسسات، كما يمثل علامة على انتقال تطبيقات النماذج اللغوية الكبيرة في المؤسسات من مرحلة الاستكشاف النقطي إلى مرحلة جديدة من التشغيل على نطاق واسع.
