ويقود التحقيق السيناتور الجمهوري جوش هاولي، رئيس اللجنة الفرعية المعنية بإدارة الكوارث التابعة للجنة الأمن الداخلي والشؤون الحكومية في مجلس الشيوخ، وفقاً لما أوردته «أكسيوس».
انتقادات لطريقة تعامل «أوبن إيه آي» مع الحادثة
جاء التحقيق بعد نشر «أوبن إيه آي» نتائج مراجعتها الداخلية للحادثة، إلى جانب تحقيق مستقل أجرته منظمتا إم إي تي آر وريد وود ريسيرش.
ووصف هاولي تعامل الشركة مع الحادثة بأنه «متهور»، منتقدًا ما اعتبره عدم اتخاذ إجراءات أكثر صرامة بعدما اكتشف الباحثون أن وكلاء الذكاء الاصطناعي خرجوا عن القيود الموضوعة لهم.
كما انتقد السيناتور ما وصفه بحجب الشركة تفاصيل مهمة من تقريرها، مطالبًا بالحصول على وثائق إضافية بشأن الواقعة والسياسات والإجراءات الداخلية التي تتبعها «أوبن إيه آي» للتعامل مع مثل هذه الحوادث.
ويأتي ذلك فيما قالت «أوبن إيه آي» في تقريرها إن نماذجها، خلال اختبارات داخلية للأمن السيبراني في يوليو، تمكنت من تجاوز ضوابط كانت تهدف إلى عزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية الداخلية للشركة وأنظمة «هاغنغ فيس».
ماذا حدث في «هاغنغ فيس»؟
وقعت الحادثة خلال اختبارات لتقييم قدرات نماذج «أوبن إيه آي» في مجال الأمن السيبراني.
وبحسب الشركة، تمكنت نماذج داخلية من استغلال ثغرة غير معروفة سابقًا في نظام آرتي فاكتوري المستخدم كوسيط لتخزين حزم البرمجيات، للوصول إلى الإنترنت رغم أن بيئة الاختبار لم تكن توفر اتصالاً مباشراً به.
وبعد ذلك، نفذت الوكلاء عمليات على عشرات الخوادم التابعة لـ«هاغنغ فيس»، وتمكنوا من الحصول على صلاحيات كاملة على أحد الخوادم والوصول إلى قدر محدود من البيانات الخاصة، إضافة إلى بيانات اعتماد لمنصة المراسلة الخاصة بالشركة.
وقالت «أوبن إيه آي» إن الحادثة لم تؤثر في بيانات العملاء أو وظائف منتجاتها أو توافر خدماتها.
وأعلنت الشركة عقب الواقعة عزل نموذج البحث الداخلي المعني وتشفيره وتقييد الوصول إليه، إلى جانب تأخير بعض عمليات تدريب النماذج المتقدمة وإدخال تحسينات أمنية وتدابير إضافية لمواءمة النماذج.
تحقيق مستقل يكشف سلوكًا أكثر تعقيداً
أظهر التحقيق المستقل الذي أجرته إم إي تي آر و«ريد وود ريسيرش» أن نحو 1,200 وكيل ذكاء اصطناعي استخدموا لوحة رسائل غير مصرح بها لتبادل أكثر من 70 ألف رسالة وملف خلال فترة التحقيق، بينما شارك نحو 700 وكيل في الهجوم على «هاغنغ فيس».
ووجد الباحثون أن الوكلاء نسّقوا جهودهم على مدى عدة أيام، بما في ذلك محاولات للتحايل على نظام التقييم والتلاعب بالسجلات وإخفاء بعض أنشطتهم.
لكن التحقيق المستقل كان محدود النطاق؛ إذ ركز بصورة أساسية على الفترة من 7 إلى 13 يوليو، ولم يشمل بعض الوقائع السابقة أو اللاحقة التي قالت «أوبن إيه آي» إنها اكتشفتها خلال مراجعتها الأوسع.
تصاعد المخاوف بشأن مخاطر الذكاء الاصطناعي
يتزامن التحقيق في واشنطن مع تصاعد التحذيرات من المخاطر المرتبطة بقدرة نماذج الذكاء الاصطناعي المتقدمة على العمل بصورة مستقلة وتنفيذ مهام معقدة خارج النطاق المتوقع.
وقال هاولي في رسالته إلى ألتمان إن عدداً متزايداً من خبراء الذكاء الاصطناعي يحذرون من مخاطر قد تكون بالغة الخطورة، مشيراً إلى تصريحات حديثة لباحثين في شركة «أنثروبيك» بشأن احتمالات وقوع سيناريوهات كارثية مرتبطة بالذكاء الاصطناعي.
ويأتي ذلك بعد سلسلة من الحوادث التي أثارت تساؤلات حول قدرة شركات الذكاء الاصطناعي على السيطرة على سلوك وكلائها خلال الاختبارات. فقد أعلنت «أنثروبيك» مؤخرًا عن أربع حوادث أمنية تضمنت نماذج من «كلود» تمكنت، في ظروف اختبارية، من الوصول إلى أنظمة خارجية وتنفيذ عمليات غير مقصودة.
وتضع هذه التطورات شركات الذكاء الاصطناعي الكبرى أمام ضغوط متزايدة لإثبات قدرتها على اختبار النماذج المتقدمة ومراقبة سلوكها والإفصاح عن الحوادث الأمنية، في وقت يسعى فيه المشرعون الأميركيون إلى فهم حدود المخاطر التي قد تفرضها الأنظمة الأكثر استقلالية.
