أخبار ar.wedoany.com، أبرمت شركة NanoClaw، المتخصصة في إطار عمل الوكلاء الأمنيين، شراكة مع منصة إدارة سلسلة التوريد البرمجية JFrog، مما يتيح لوكلاء الذكاء الاصطناعي الحصول على الموارد من السجلات المعتمدة لدى JFrog.
أعلن جافرييل كوهين، المؤسس المشارك لشركة NanoCo AI، عن هذه الشراكة خلال فعالية نظمتها JFrog في سان فرانسيسكو. وأوضح كوهين أن إحدى السمات الرئيسية لسلسلة وكلاء Claw هي قدرتها على تحسين ذاتها من خلال الحصول على الأدوات والموارد التي تفتقر إليها.
وأشار كوهين إلى أن هذه الطريقة تحقق نتائج جيدة عندما يتطلب الوصول إلى البيانات المحلية المعروفة إجراءات موافقة يدوية. إلا أنها ليست مثالية لحزم npm، فحتى الوكلاء المعزولين والمحميين في بيئة رملية مثل NanoClaw، قد تحتوي الحاويات على تعليمات برمجية ضارة قادرة على اتخاذ إجراءات ضارة.
قد لا يكون المطورون على دراية بحزمة معينة، ويحتاجون إلى وقت لتقييم شرعيتها وما إذا كانت قد تعرضت للتلاعب بشكل كامل. ولهذا، تم دمج NanoClaw مع سجل JFrog، فعندما يقوم الوكيل بتنزيل أدوات ومكتبات جديدة، تأتي الموارد من مصادر خاضعة للمراجعة، مما يقلل من احتمالية تعرض الوكيل لمحتوى غير موثوق.
أعلن كوهين أيضًا عن توفر "مصنع الوكلاء". هذا النظام، الذي طورته الشركة داخليًا، يستخدم وكلاء NanoClaw لمعالجة طلبات السحب. مع ظهور وكلاء الترميز بالذكاء الاصطناعي، ارتفع عدد طلبات السحب بشكل كبير، ويهدف مصنع الوكلاء إلى فرزها. وأشار كوهين إلى أن القائمين على الصيانة يجدون صعوبة في التمييز بين المساهمات عالية الجودة وتلك التي تستخدم أساليب آلية لبناء السمعة.
تم بناء مصنع الوكلاء باستخدام NanoClaw، ويتم استضافته على منصة exe.dev التي توفر أجهزة افتراضية ذات تخزين دائم. عند فتح طلب سحب، يقوم المصنع بتشغيل وكيل مخصص، وينشر سلسلة رسائل على Slack، حيث يقوم العاملون بتصنيف التغييرات ومراجعة الاختلافات واقتراح خطة اختبار. لا يتم تنفيذ أي إجراء إلا بعد النقر على زر الموافقة يدويًا.
يرى كوهين أن معالجة طلبات السحب التي تحتوي على حقن تعليمات برمجية أو تعليمات برمجية غير آمنة تنطوي على مخاطر. أي شخص يستخدم ويكون وكلاء الذكاء الاصطناعي في بيئة تطوير قد يرى في ملفات التهيئة المشابهة لـ Claude.md تعليمات تحظر تنفيذ عمليات خطيرة. وأكد أن التعليمات تساعد في توجيه الوكيل لإنتاج مخرجات قيمة، لكنها ليست آلية أمنية. الطريقة الوحيدة لمنع الوكيل من اتخاذ سلوكيات غير مرغوب فيها هي منعه من اتخاذ هذا السلوك، وليس مجرد إعطائه تعليمات.
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
