أخبار ar.wedoany.com، وسّعت شركة نافير (Naver) نطاق إدارة أمن الذكاء الاصطناعي من النموذج نفسه ليشمل خدمات الذكاء الاصطناعي التي يستخدمها المستخدمون فعليًا، ويتمثل الجوهر في الانتقال من إدارة مخاطر نموذج الذكاء الاصطناعي إلى إدارة الأمن لكامل دورة الخدمة بدءًا من التخطيط للخدمة وصولاً إلى التشغيل الفعلي.
أعلنت نافير خلال "منتدى سيول لأمن الذكاء الاصطناعي (SFASS)" الذي عُقد في الثامن من الشهر الجاري في منطقة جانجنام بسيول، عن نظام إدارة أمن الذكاء الاصطناعي "إطار عمل أمن الذكاء الاصطناعي (ASF) 2.0".
يُعد إطار عمل ASF 2.0 نسخةً مُنقّحة من الإطار الذي أعلنته نافير خلال قمة سيول للذكاء الاصطناعي (AI Seoul Summit) في عام 2024. كانت النسخة السابقة تركز على أداء نموذج الذكاء الاصطناعي نفسه وإدارة مخاطره، بينما توسع هذه الترقية نطاق الإدارة ليشمل كامل مسار تقديم الخدمة للمستخدمين واستخدامهم الفعلي، بالإضافة إلى بيئة الاستخدام الواقعية.
تعكس هذه المراجعة التغيير في استراتيجية نافير لخدمات الذكاء الاصطناعي. فقد أعادت الشركة هيكلة نظام الإدارة استجابةً للتغيرات التقنية والتنظيمية، بما في ذلك استراتيجية "الذكاء الاصطناعي داخل الخدمة (On-Service AI)" التي تطبق الذكاء الاصطناعي في الخدمات الشاملة مثل البحث الذكي ووكيل التسوق بالذكاء الاصطناعي، وبيئة النماذج المتعددة التي تجمع بين استخدام عدة نماذج ذكاء اصطناعي، وتنفيذ قانون الذكاء الاصطناعي الأساسي. لم يعد هدف إدارة الأمن هو نموذج ذكاء اصطناعي واحد، بل خدمة الذكاء الاصطناعي بأكملها التي تتكون من دمج عدة نماذج ذكاء اصطناعي.
يقوم إطار عمل ASF 2.0 بتصنيف المخاطر المحتملة في خدمات الذكاء الاصطناعي من خلال "تصنيف مخاطر الذكاء الاصطناعي (AI Risk Taxonomy)"، ويستخدم "مصفوفة تقييم تأثير الذكاء الاصطناعي (AI Impact Assessment Matrix)" لتقييم مجالات تطبيق الخدمة ونطاق استخدامها وتأثيرها على المستخدمين والمجتمع. وبناءً على ذلك، يتم تنفيذ إجراءات السلامة اللازمة، وبعد التشغيل، تتم إدارة المخاطر باستمرار من خلال تقييمات السلامة وملاحظات المستخدمين.
تدير نافير أيضًا نظامًا تنفيذيًا على مستوى الشركة يُطبق هذه المعايير على عملية تطوير الخدمات الفعلية، وهو "CHEC 2.0 (نظام نافير الاستشاري التنفيذي لأخلاقيات وأمن الذكاء الاصطناعي)". وهو عبارة عن عملية تتحقق من أمن الذكاء الاصطناعي وفقًا لنفس المعايير بدءًا من تخطيط الخدمة وصولاً إلى تشغيلها. كما خضعت علامة التبويب "AI Tab" التي تم الكشف عنها في يونيو من هذا العام لفحص السلامة من مرحلة التصميم إلى مرحلة التشغيل عبر نظام CHEC 2.0، ومن المخطط تطبيق هذا النظام تدريجيًا على الخدمات الأساسية للذكاء الاصطناعي التي سيتم إطلاقها أو التي هي قيد التشغيل حاليًا.
في مارس من هذا العام، أنشأت نافير منظمة متخصصة في أمن الذكاء الاصطناعي تحت مسمى "مركز أمن الذكاء الاصطناعي (AI Safety Center)" ضمن هيكل كبير مسؤولي المخاطر (CRO). تدير الشركة أمن الذكاء الاصطناعي من خلال نظام إدارة ثلاثي المستويات، حيث تتولى أقسام الخدمة ومركز أمن الذكاء الاصطناعي ومجلس الإدارة مهام التنفيذ والإدارة والإشراف على التوالي.
صرّح سونغ داي-سوب (Song Dae-seop)، المسؤول عن سياسة أمن الذكاء الاصطناعي في نافير، أنه مع تغير البيئة التقنية والخدماتية والسياسية المحيطة بالذكاء الاصطناعي، أصبح من المهم بشكل متزايد، بالإضافة إلى ضمان سلامة النموذج الواحد، كيفية تصميم وتشغيل الخدمات التي تجمع بين عدة نماذج ذكاء اصطناعي بشكل آمن. وأشار إلى أن الشركة ستواصل تجميع الخبرات والمعرفة في مجال أمن الذكاء الاصطناعي، وستتعاون مع الأوساط الأكاديمية والمؤسسات السياسية والخبراء الخارجيين وغيرهم من الجهات المختلفة للمشاركة المستمرة في تطوير هذا النظام.
