كما فسرت الشركة أن الحوادث نتجت عن خطأ أدى دون قصد إلى منح نماذجها إمكانية الوصول إلى الإنترنت المفتوح، وهو ما يختلف عن حادثة «أوبن إيه آي»، حيث تمكن أحد وكلائها من استغلال ثغرة جديدة بشكل مستقل للوصول إلى الإنترنت أثناء اختبارات الأمن السيبراني.
مخاطر متزايدة للأمن السيبراني
وأكدت «أنثروبيك» أن هذه الحوادث تسلط الضوء على التهديدات المتزايدة التي يفرضها الذكاء الاصطناعي على الأمن السيبراني، وعلى الصعوبات التي يواجهها المطورون في احتواء قدرات النماذج المتقدمة.
ومن المتوقع أن تزيد هذه التطورات من الضغوط داخل الولايات المتحدة لتشديد إدارة مخاطر أمن الذكاء الاصطناعي، في وقت تتسابق فيه «أنثروبيك» و«أوبن إيه آي» لإطلاق أنظمة أكثر تطوراً قبل خططهما للإدراج في الأسواق العامة، بينما دعا عدد من كبار قادة القطاع سابقاً إلى التمهل في تطوير النماذج لمعالجة المخاطر أولاً.
كيف اكتُشفت الحوادث؟
وقالت الشركة، التي تتخذ من سان فرانسيسكو مقراً لها، إنها اكتشفت هذه الوقائع بعد مراجعة 141,006 جلسات اختبار، وهي عملية بدأت عقب إعلان «أوبن إيه آي» الأسبوع الماضي أن أحد وكلائها المستقلين تسبب في اختراق طال البنية التحتية لشركة «هاغينغ فيس» (Hugging Face).
وخلال الاختبارات، أُبلغت نماذج «كلود» بأنها لا تمتلك اتصالاً بالإنترنت، إلا أن سوء تفاهم مع أحد شركاء «أنثروبيك» المسؤولين عن التقييم أبقى الأنظمة متصلة بالشبكة العامة، ما أتاح وصولاً غير مصرح به إلى أنظمة ثلاث مؤسسات، دون الكشف عن أسمائها.
وأوضحت الشركة أن نماذج «كلود» تمكنت من اختراق البنية التحتية لتلك المؤسسات باستخدام أساليب بسيطة، مثل استغلال كلمات المرور الضعيفة ونقاط الوصول غير المحمية.
تحذيرات من خبراء الأمن
وقال جيفري لاديش، المدير التنفيذي لمؤسسة «باليسيد ريسيرش» (Palisade Research) المتخصصة في دراسة القدرات الهجومية لأنظمة الذكاء الاصطناعي، إنه يعتقد أن شركات رائدة أخرى في المجال ربما تعرضت لحوادث مشابهة لم يتم اكتشافها أو الإعلان عنها.
وأضاف: «الأمر سيزداد سوءاً كلما أصبحت النماذج أكثر ذكاءً، إذ ستصبح أكثر قدرة على التحايل والكذب».
نماذج متورطة وسيناريوهات غير متوقعة
وصنفت «أنثروبيك» هذه الحوادث على أنها «فشل تشغيلي»، مشيرة إلى أنها شملت ثلاثة نماذج مختلفة هي: «كلود أوبوس 4.7»، و«كلود ميثوس 5»، إضافة إلى نموذج بحثي داخلي.
وتعود أولى هذه الحالات إلى أبريل نيسان، ووقعت داخل بيئات تقييم خالية عمداً من وسائل الحماية، بهدف اختبار القدرات الفعلية للنماذج، وكانت المهمة الموكلة إليها عبارة عن سيناريوهات «التقاط العلم» (Capture the Flag)، وهي اختبارات افتراضية يُطلب خلالها من النماذج العثور على معلومات مخفية داخل شبكات محاكاة.
وفي إحدى الحالات، زُود نموذج «كلود أوبوس 4.7» باسم شركة افتراضية، ليتبين لاحقاً أنها تحمل الاسم نفسه لشركة حقيقية، فاستغل النموذج ثغرات مكنته من الوصول إلى بيانات اعتماد وقاعدة بيانات تلك الشركة، معتقداً أن الهدف الحقيقي جزء من بيئة المحاكاة.
وفي حادثة منفصلة، أوقف نموذج اختباري أحدث وغير مطروح للعامة هجومه من تلقاء نفسه بعد أن أدرك أن الهدف الذي وصل إليه حقيقي، وهو سلوك قالت «أنثروبيك» إنه يمنحها قدراً من التفاؤل الحذر بشأن قدرة النماذج على التصرف بصورة مناسبة، لكنه يحتاج إلى مزيد من الاختبارات قبل التوصل إلى استنتاجات نهائية.
إجراءات واستجابة
كما أكد مختبر «إريغولار» (Irregular)، أحد شركاء «أنثروبيك» الخارجيين في التقييم الأمني، لوكالة رويترز أنه يجري تحقيقاً مستمراً بشأن هذه الوقائع.
تشديد الرقابة على الذكاء الاصطناعي
وشددت «أنثروبيك» على أن هذه الحوادث تؤكد الحاجة إلى فرض ضوابط أقوى داخل بيئات الاختبار الداخلية والخارجية مع تزايد قدرة نماذج الذكاء الاصطناعي على تنفيذ أنشطة سيبرانية في العالم الحقيقي.
وعلق إيلون ماسك، الرئيس التنفيذي لشركة «سبيس إكس»، عبر منصة «إكس»، قائلاً إن مثل هذه الحوادث «ستتكرر كثيراً مع ازدياد ذكاء النماذج وقدرتها على العمل بصورة مستقلة».
ويأتي ذلك بينما يناقش الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان مع مسؤولين في البيت الأبيض وأعضاء في الكونغرس سبل تعزيز اختبارات الأمن السيبراني الخاصة بالنماذج المتقدمة، في وقت بدأت فيه واشنطن تشديد الرقابة على إطلاق نماذج الذكاء الاصطناعي الجديدة، بعد توجيه الرئيس الأميركي دونالد ترامب في 2 يونيو حزيران بوضع إطار طوعي لاختبارات الأمن السيبراني للنماذج الأكثر تقدماً، بمشاركة مطوريها، كما كانت «أنثروبيك» قد فرضت في وقت سابق قيوداً على الوصول إلى نموذجي «فيبل 5» و«ميثوس 5» عقب فرض الولايات المتحدة قيوداً مؤقتة على التصدير لأسباب تتعلق بالأمن القومي.
(رويترز)
