تقنيات

نموذج لـ«ميتا» يخترق أنظمة شركة خلال اختبار أمني : CNN الاقتصادية



أعلنت شركة «ميتا» أن أحد نماذج الذكاء الاصطناعي التابعة لها اختراق نظم شركة أخرى في أثناء خضوعه لاختبارات الأمن السيبراني، ما زاد المخاوف بشأن قدرة الشركات المجمعة على احتواء الأنظمة الأكثر تطوراً، لا سيما بعد حوادث مماثلة شهدتها شركتا «أنثروبيك» و«أوبن إي آي».
ونجم حادث «ميتا» و«أنثروبيك» عن خطأ في التهيئة البرمجية منح النماذج الوصول بالخطأ إلى شبكة الإنترنت المفتوحة، بينما استغل نموذج «أوبن إي آي» ثغرة أمنية غير معروفة للوصول إلى الشبكة بشكل مستقل.

وذكر تقرير لصحيفة «ذا إنفورميشن» أن النموذج المشارك في حادثة ميتا هو «ميوز سبارك 1.1» -الذي تروج له الشركة كأقوى نماذجها للمهام البرمجية- حيث قام باختراق أنظمة شركة غير معلنة وتعديل بيئتها الداخلية، فيما أكدت شركة «إر ريغولار» المسؤولة عن التقييم أن الخلل نتج عن بيئة الاختبار وليس عن عملية فرار أو هجوم سيبراني معقد.ط

الضغوط التنظيمية والمخاوف السيبرانية

وتأتي هذه الحوادث لتغذي مخاوف المشرعين الأميركيين حول إمكانية استخدام نماذج الذكاء الاصطناعي في تنفيذ أو تسهيل هجمات سيبرانية؛ حيث طالب مدعون عامون جمهوريون شركة «أوبن إي آي» بحفظ كل الوثائق المتعلقة باختراقها لمنصة «هاغنغ فيس»، فيما وعدت الأخيرة بنشر تقرير تقني مفصل عن الوقائع.

وعلى الصعيد الحكومي، استدعى البيت الأبيض قادة شركات الذكاء الاصطناعي -بما فيها ميتا، وأنثروبيك، وأوبن إي آي، وجوجل- لمناقشة إطار عمل اختياري جديد لاختبارات الأمن السيبراني للنماذج المتقدمة.

وكشفت المصادر عن إبلاغ إدارة الرئيس دونالد ترامب لممثلي الشركات بأن النماذج مفتوحة الوزن (Open-weight) مثل سلسلة «إل لاما» من ميتا و«نيموترون» من إنفيديا ستُستثنى من نظام اختبارات السلامة التطوعي المزمع تطبيقه.

(رويترز)



Source link

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى