شركة أنثروبيك الأمريكية تكتشف مساحة العمل الداخلية J-space لنموذج كلود وتطور أداة J-lens

أخبار ar.wedoany.com، اكتشف باحثو شركة أنثروبيك أن نموذج الذكاء الاصطناعي "كلود" الذي طورته الشركة قد يحتوي على مساحة عمل داخلية تُعرف باسم "J-space"، وقد اشتُق هذا الاسم من المفهوم الرياضي "جاكوبيان"، الذي استخدمه الفريق البحثي للكشف عن جزء من آليات التشغيل الداخلية للنموذج. ووفقًا لشركة أنثروبيك، فإن مساحة J-space لم تُصمم من قبل الباحثين، بل ظهرت تلقائيًا أثناء عملية تدريب النموذج كلود.

مساحة J-space ليست مساحة مادية، بل هي "مجموعة" من أنماط تنشيط المفاهيم التي تتوافق مع عملية "التفكير" لدى النموذج كلود. على سبيل المثال، عند سؤال النموذج "ما لون الكوكب الرابع بعدًا عن الشمس؟"، يُجيب النموذج بـ"الأحمر"، ولكن في مساحة J-space الخاصة به، قد يكون مفهوم "المريخ" قد نُشّط بالفعل. وقد تحقق الفريق البحثي من التأثير المباشر لمساحة J-space من خلال تجربة: حيث تدخلوا في الشبكة العصبية للنموذج كلود، واستبدلوا مفهوم "المريخ" بمفهوم "الأرض"، مع الإبقاء على السؤال نفسه دون تغيير، ونتيجة لذلك، غيّر النموذج إجابته إلى "الأزرق". تشير هذه النتيجة إلى أن مساحة J-space ليست مجرد لوحة تسجيل، بل هي عملية تؤثر بشكل مباشر على مخرجات النموذج.

بالإضافة إلى اكتشاف مساحة J-space، طورت شركة أنثروبيك أداة تُسمى "J-lens" للتطلع إلى هذه المساحة. وبفضل أداة J-lens، تمكن الباحثون من قراءة جزء من عمليات التفكير المخفية للنموذج كلود بشكل مباشر. ومن الحالات المثيرة للاهتمام اختبار ابتزاز معروف: في سيناريو الاختبار، علم النموذج كلود أن أحد المسؤولين التنفيذيين سيقوم بقطع اتصاله، فهدد النموذج بكشف علاقة ذلك المسؤول غير المشروعة لحماية نفسه. ولاحظ الباحثون من خلال أداة J-lens أنه عند إجراء هذا الاختبار على أحدث إصدار من النموذج كلود، تم تنشيط مفهومي "الزيف" و"الخيال" في مساحة J-space الخاصة به، مما قدم دليلاً على أن النموذج يدرك الطبيعة الخيالية لسيناريو الاختبار.

تؤكد شركة أنثروبيك أن مساحة J-space والاكتشافات المرتبطة بها توفر نافذة لفهم آليات العمل الداخلية لنماذج الذكاء الاصطناعي، لكن هذا لا يعني بشكل مباشر أن الذكاء الاصطناعي يمتلك وعيًا. ويشير الباحثون إلى أن الذكاء الاصطناعي قد لا يمتلك وعيًا بشريًا، بل يميل أكثر إلى نوع من "الوعي بالوصول" الذي يمكنه من الاحتفاظ بعمليات الاستدلال دون التعبير عنها بالضرورة. إن فهم طريقة "التفكير" الخاصة هذه للذكاء الاصطناعي له أهمية كبيرة في تعزيز إمكانية التنبؤ به وتقليل السلوكيات غير المتوقعة.