أخبار ar.wedoany.com، تواجه شركات البرمجيات الكورية مشكلة الارتفاع الحاد في تكاليف الرموز المميزة (Token) الناتجة عن انتشار عوامل الذكاء الاصطناعي، وذلك من خلال الجمع بين تقنيات متعددة مثل تحسين المطالبات (Prompt Optimization)، وبوابات نماذج اللغات الكبيرة (LLM Gateway)، والنشر المحلي، واستراتيجيات النماذج المتعددة.

تقوم عوامل الذكاء الاصطناعي باستدعاء نماذج اللغات بشكل متكرر وتنفيذ أدوات متعددة لإنجاز المهام، مما يؤدي إلى زيادة استهلاك الرموز المميزة بمعدلات تتراوح بين عدة أضعاف وعشرات الأضعاف مقارنة بالاستخدام البشري. قامت إحدى الشركات الكورية بنشر عوامل الذكاء الاصطناعي على مستوى الشركة بالكامل منذ بداية هذا العام، مما أدى إلى استهلاك شهري يبلغ حوالي 250 مليار رمز مميز، وتكاليف بنية تحتية شهرية تتراوح بين 200 مليون و300 مليون وون كوري.

تركز بعض الشركات على تخفيف حجم المطالبات والتخزين المؤقت، حيث قامت شركة WISEITECH بتقليل المدخلات الطويلة غير الضرورية والاستدعاءات المتكررة، بينما تعمل Naver Cloud على تحسين النماذج وفقًا للمهام. وتتجه الشركات إلى اعتبار بوابات نماذج اللغات الكبيرة عقد تحكم أساسية لمراقبة استخدام النماذج في مختلف الأقسام في الوقت الفعلي، حيث قامت Hancom بدمج أنظمة التوجيه والتراجع، بينما بنت NDS بوابتها استنادًا إلى LiteLLM.

كما تتبنى العديد من الشركات حلول النشر المحلي، حيث قامت MakinaRocks بربط النماذج مفتوحة المصدر ببنيتها التحتية الخاصة لـ vLLM، وتستخدم S2W خوادم GPU المملوكة ذاتيًا لمعالجة المهام كبيرة الحجم. تعتمد استراتيجية النماذج المتعددة على إسناد المهام الروتينية الموحدة إلى نماذج خفيفة الوزن أو مفتوحة المصدر، وتستخدم Crowdworks نماذج تجارية مثل Amazon Bedrock بالتنسيق مع النماذج المصغرة. قامت CyNapse Soft بإدخال تقنيات Serena MCP و LSP، حيث تقوم بتقسيم الكود المصدري إلى وحدات دلالية، مما يحقق توفيرًا في الرموز المميزة بنسبة حوالي 20% مقارنة بالأطر مفتوحة المصدر.

يمثل تحسين التكاليف في عصر الذكاء الاصطناعي التوليدي اختبارًا لقدرات الشركات على التصميم المعماري. من خلال التخزين المؤقت لاستبعاد الطلبات المتكررة، والنشر المحلي لعزل البيانات الحساسة، والتوجيه لاستبدال النماذج عالية التكلفة، سيصبح بناء نظام تحكم شامل معيارًا يميز استدامة شركات البرمجيات.