أخبار ar.wedoany.com، طور المكتب الاتحادي لأمن المعلومات في ألمانيا (BSI) بالتعاون مع معهد فراونهوفر للبصريات وتقنيات الأنظمة وتقييم الصور (Fraunhofer IOSB) طريقة لكشف التزييف العميق تُعرف باسم "RealOrRender"، تهدف إلى تحديد الصور المزيفة المُنشأة بالذكاء الاصطناعي وجعل عملية الكشف عنها قابلة للتتبع. في الوقت الحالي، تتزايد درجة واقعية الصور ومقاطع الفيديو المُنشأة بالذكاء الاصطناعي، حيث أصبحت نماذج اللغة الكبيرة قادرة على إظهار أطراف صحيحة تشريحياً، وظلال واقعية، وحتى محاكاة نبضات القلب، مما يزيد من صعوبة التمييز بين اللقطات الحقيقية والتزييف العميق. قد لا يؤدي تشديد القوانين المخطط له من قبل الاتحاد الأوروبي إلى تغيير جذري لهذا الوضع، مما يجعل الحلول التقنية محوراً للبحث.
أشار المكتب الاتحادي لأمن المعلومات (BSI) إلى أن طرق الكشف الآلي تعمل بشكل موثوق عادةً فقط في ظل ظروف محددة. ولهذا، تعاون BSI مع معهد فراونهوفر (Fraunhofer IOSB) لتطوير طريقة "RealOrRender". تعتمد هذه الطريقة على عملية من جزأين: أولاً، يتم استخدام مولد صور بالذكاء الاصطناعي لإعادة بناء الصورة المدخلة، ثم يتم تصنيفها باستخدام نموذج ذكاء اصطناعي وحساب خطأ إعادة البناء بشكل مختلط. وأوضح أندرياس شبيكر، العالم البارز في مجموعة أبحاث المساعدة الأمنية وأنظمة المساعدة بالفيديو في معهد فراونهوفر، أن هذه العملية قادرة على تحديد ما إذا كانت الصورة مزيفة بعمق أم لا.
آلية عمل "RealOrRender" المحددة هي: بعد استلام النظام للصورة، يستخدم نموذج انتشار مُدرّب مسبقاً لإجراء معالجة عكسية، مما يُنتج بصمة رياضية للصورة (خريطة ضوضاء) بالإضافة إلى نتيجة إعادة البناء، أي إعادة تزييف الصورة الأصلية عن قصد. بعد ذلك، يقوم النظام بمسح الصورة بحثاً عن الأخطاء. منطق هذه الطريقة هو: إذا كانت الصورة الأصلية مزيفة بعمق، فإن بصمتها الرياضية ستكون مشابهة لنتيجة إعادة البناء من "RealOrRender"؛ أما إذا كانت صورة حقيقية، فسينتج عنها المزيد من أخطاء إعادة البناء، لأن الصور الحقيقية تحتوي على المزيد من عدم الدقة والضوضاء الطبيعية. يستخدم النظام مجموعة بيانات تدريبية تحتوي على حوالي 120 ألف صورة من 18 مولد صور، لحساب الانحراف المتوقع، وتقديم تقييم حول ما إذا كانت الصورة مزيفة بعمق أم لا. ووفقاً للباحثين، تتراوح دقة هذا الكشف بين 85% و91%.
تدمج "RealOrRender" أيضاً مكوناً للذكاء الاصطناعي القابل للتفسير (XAI)، حيث يُنشئ في نهاية التحليل خريطة حرارية تُحدد التفاصيل في الصورة الأصلية التي تشير إلى التزييف، بما في ذلك ملامح الوجه والشعر واليدين والأشياء في الخلفية. يساعد ذلك المستخدمين على فهم مؤشرات التزييف العميق التي اكتشفها النظام، ويعزز الثقة في النموذج ونتائجه. يُذكر أن "RealOrRender" قد دخل حيز الاستخدام داخل المكتب الاتحادي لأمن المعلومات (BSI) على شكل نموذج توضيحي.
