أخبار ar.wedoany.com، أطلقت شركة "أسترا" (Группа Астра)، المطور الروسي لبرامج البنية التحتية، منصة "بوتسمان إيه آي" (Боцман AI)، التي تتيح تشغيل نماذج اللغة وغيرها من نماذج الذكاء الاصطناعي داخل الشبكات الأمنية للمؤسسات، مما يضمن عدم تسرب البيانات إلى خدمات سحابية خارجية.
تُعد "بوتسمان إيه آي" امتدادًا منطقيًا لمنصة "بوتسمان" (Боцман)، وهي حل محلي لتنسيق الحاويات يعتمد على Kubernetes، وتشكل جزءًا من منصة "أسترا ديف" (Astra Dev Platform)، وتركز على بناء منصات تطوير داخلية وتشغيل التطبيقات في بنى تحتية معزولة أو خاضعة للتنظيم.
تواجه المؤسسات حاجة ماسة لاستخدام نماذج اللغة، إلا أن متطلبات أمن المعلومات والقيود التنظيمية والسياسات الداخلية غالبًا ما تمنع نقل البيانات إلى خدمات خارجية. ويتطلب النشر الذاتي للنماذج عادةً بدء مشاريع بنية تحتية منفصلة لكل مهمة، بما في ذلك اختيار بيئة التشغيل، وتكوين وحدات معالجة الرسوميات (GPU)، وتحميل الأوزان، وإعداد نقاط النهاية، والمراقبة. وتتولى منصة "بوتسمان إيه آي" هذه المهام الروتينية.
يقوم فريق المنصة بالتكوين عبر نموذج وصف موارد Kubernetes القياسي، حيث يقوم النظام تلقائيًا بإعداد تخزين الأوزان وتشغيل بيئة التشغيل للمحرك المطلوب، بما في ذلك vLLM أو Ollama أو SGLang أو FasterWhisper، ثم ينشر النموذج عبر بوابة موحدة. ولا تؤدي آلية التحديث إلى ظهور نافذة عدم توفر أثناء التحديث، وهو أمر بالغ الأهمية عند التعامل مع البنية التحتية المكلفة لوحدات معالجة الرسوميات.
يحصل مطورو التطبيقات على واجهة برمجة تطبيقات (API) متوافقة مع OpenAI، دون الحاجة إلى إعادة كتابة الكود الحالي، حيث يكفي تغيير عنوان الخدمة لمواصلة التطبيق العمل مع النماذج المنشورة داخل الشبكة المؤسسية. وتوفر المنصة أيضًا مجموعة من الأدوات الصناعية، بما في ذلك التوسع التلقائي المدمج للحمل، ونظام الفوترة، وإدارة مفاتيح API مع التحكم في الميزانية، لتوزيع الموارد بشفافية بين الفرق والمشاريع. وتتم عملية التثبيت عبر "بوتسمان آبس آند ماركت بليس" (Botswain Apps & Marketplace) على شكل مخططات Helm.
صرّح ميخائيل كوبيك (Mikhail Kobik)، المدير التقني لمنصة "بوتسمان" (التابعة لشركة "أسترا")، بأن هذه المنصة تتيح للشركات الروسية استخدام نماذج اللغة الحديثة بنفس سهولة استخدام الخدمات السحابية العامة، ولكن بشكل كامل داخل شبكاتها الداخلية، مما يحافظ على سيادة البيانات وتكاليف يمكن التنبؤ بها، دون الاعتماد على موردين أجانب. وتكمن خصوصيتها في تحويل نشر نماذج الذكاء الاصطناعي من مشروع بنية تحتية معقد إلى عملية Kubernetes قياسية يمكن لأي فريق منصة تنفيذها.
