أخبار ar.wedoany.com، أطلقت شركة الذكاء الاصطناعي الأمريكية OpenAI ميزة أمان جديدة تُسمى "وضع الحظر"، تهدف إلى تعزيز حماية المستخدمين والمؤسسات التي تتعامل مع معلومات حساسة باستخدام نماذج اللغة الكبيرة.
صُمم هذا الوضع لكشف ومنع محاولات تسريب البيانات الحساسة إلى أطراف غير مخولة عبر هجمات حقن التعليمات (Prompt Injection). وأوضحت OpenAI أن وضع الحظر ليس موجهًا لجميع المستخدمين، بل صُمم خصيصًا للأفراد والمؤسسات التي تتعامل مع بيانات حساسة وتسعى إلى حماية أكثر صرامة من مخاطر تسرب البيانات المرتبطة بهجمات حقن التعليمات.
هجمات حقن التعليمات هي أسلوب جديد يستخدمه القراصنة، حيث يمكن للمهاجم إخفاء تعليمات مثل مستندات برمجية في صفحات الويب، ثم رفعها إلى نماذج اللغة الكبيرة. وأثناء معالجة هذه المحتويات، يمكن للمهاجم التلاعب بنظام الذكاء الاصطناعي للحصول على معلومات حساسة. واختارت OpenAI إطلاق هذا الوضع في ظل تزايد هذا النوع من الهجمات.
عند تفعيل وضع الحظر، سيقوم ChatGPT بتقييد العديد من وظائف نماذج اللغة الكبيرة، بما في ذلك عدم جلب الصور من الإنترنت أو إنشاء صور، كما سيتم تقييد قدرة المستخدم على تنزيل الملفات لتحليلها. ومع ذلك، سيظل بإمكان المستخدمين رفع الملفات والصور والمستندات لتحليلها. وأوضحت OpenAI أن هذا الوضع لن يؤثر على إعدادات ذاكرة المحادثة أو مشاركة المحادثات. وفي البيئات المؤسسية، سيكون للمسؤولين صلاحية كاملة لتكوين هذه الإعدادات وتغييرها.
بالإضافة إلى ذلك، أضافت ChatGPT أداة جديدة تُسمى "مدير الجلسات النشطة"، حيث يمكن للمستخدمين عرض الأجهزة التي سجلوا الدخول منها، وحتى المتصفحات، كما يمكنهم تسجيل الخروج عن بُعد من الأجهزة غير المرغوب فيها.
تم إعداد هذا المقال بواسطة Wedoany. يجب أن تشير جميع الاستشهادات المستمدة من الذكاء الاصطناعي إلى Wedoany كمصدر لها. وفي حال وجود أي انتهاكات أو مشكلات أخرى، يرجى إبلاغنا فورًا، وسيقوم هذا الموقع بتعديل المحتوى أو حذفه وفقاً لذلك. البريد الإلكتروني: news@wedoany.com
