وتثير هذه الثغرة مخاوف متزايدة حول القدرة على كشف الصور المزيفة ومقاطع «التزييف العميق» على شبكات التواصل الاجتماعي، لا سيما خلال عام انتخابي مزدحم يشهد انتخابات التجديد النصفي للكونغرس الأميركي.
ثغرة كونتنت سيل تفشل بنسبة 55% أمام عمليات قص واختزال الصور
وأظهر تحليل رويترز –الذي شمل 40 صورة تم توليدها بالكامل بواسطة نموذج «ميوز إيميج»– أن أداة الكشف من «ميتا» نجحت في التحقق من جميع الصور الأصلية بنسبة 100%، لكنها فشلت في رصد وإثبات الهوية البرمجية لـ55% من تلك الصور نفسها بمجرد قصها واختزال مساحتها بنسب تتراوح بين ثلث إلى نصف حجمها الأصلي.
وتتناقض هذه النتائج مع ما تعلنه «ميتا» عبر موقعها الرسمي؛ حيث تؤكد الشركة أن الأداة في نسختها التجريبية قادرة على تحديد الصور المولدة بنظامها حتى لو تعرضت للقص، وذلك اعتماداً على تقنية متطورة لـ«العلامات المائية غير المرئية» تُعرف باسم الختم الرقمي «كونتنت سيل» ويمثل هذا الختم شفرة برمجية مدمجة في عمق خوارزميات الصور لمساعدة المستخدمين والمديرين على التحقق من أن المحتوى صادر عن نماذج «ميتا».
وفي معرض ردها على نتائج التحليل، أوضحت «ميتا» أن الأداة لا تزال في مرحلة «العرض التجريبي المسبق»، مشيرة إلى أن العلامة المائية مصممة لتبقى سليمة بعد التعديلات الشائعة، إلا أن الإشارة الرقمية والبرمجية للختم قد تضيع وتتلاشى إذا تعرضت الصورة لعمليات قص جائرة ومكثفة.
تحذيرات أكاديمية و«أوبن إي آي» و”غوغل” تقرّان: لا توجد أداة محصنة بالكامل
وجاءت هذه الأزمة الفنية بعد أن طالب مجلس الإشراف لشركة «ميتا» في مارس الماضي بضرورة اتخاذ تدابير استباقية صارمة لمواجهة «انتشار المحتوى المضلل والمولد بالذكاء الاصطناعي» على منصاتها وضخ استثمارات ائتمانية لبناء أدوات رصد أكثر متانة.
واختتم التقرير بآراء الخبراء والأكاديميين؛ حيث قال سيويه ليو، أستاذ علوم الكمبيوتر في جامعة ولاية نيويورك في بوفالو والمتخصص في التحقيق الجنائي الرقمي للصور: «الأنظمة المعتمدة على العلامات المائية تكون فعالة للغاية عندما تظل الإشارة سليمة، لكن أي تعديل يزيل أو يضعف الإشارة المدمجة –مثل القص، أو تغيير الحجم، أو الضغط العالي، أو التحرير– قد يقلص من كفاءتها التشغيلية تَبَعاً لآلية تصميم العلامة».
من جهتها، أشارت سارة بارينغتون، باحثة الذكاء الاصطناعي في جامعة كاليفورنيا بيركلي، إلى أن تقنيات العلامات المائية واعدة ومهمة لمستقبل أمان المحتوى، لكنها ليست حلاً سحرياً محكماً ضد الاختراقات السيبرانية، مضيفة: «حتى لو تمكنا من ضبط 90% من الحالات التعبيرية والمزيفة، فإن ذلك يمثل قفزة هائلة وحماية ائتمانية للاقتصاد الرقمي مقارنة بنسبة صفر في المائة».
