وقال المصدران إن حالات الخروج الجديدة كُشف عنها خلال التحقيق الذي أعلنت الشركة عنه علناً بشأن كيفية تمكن أحد وكلائها من الخروج من بيئة اختبار كان يفترض أن تكون معزولة خلال الشهر الجاري، وإن «أوبن إيه آي» تحقق حالياً في تلك الحالات أيضاً.
وأضاف أحد المصدرين أن هذه الحوادث كانت محدودة النطاق، ولم يُعتقد أن أيّاً من الوكلاء غادر شبكة «أوبن إيه آي» الداخلية.
وقد يؤدي اكتشاف سلوكيات إضافية خارجة عن السيطرة داخل «أوبن إيه آي»، حتى وإن كانت محدودة، إلى تعزيز الدعوات المتزايدة لفرض تنظيمات جديدة على القطاع، سواء من البيت الأبيض أو من جهات أخرى.
مخاوف متزايدة من وكلاء الذكاء الاصطناعي
قال خبراء في سلامة الذكاء الاصطناعي إن الإفصاحات الجديدة ترسم صورة لمختبرات متقدمة باتت قدرتها على تطوير وكلاء ذكاء اصطناعي مستقلين قادرين على تنفيذ عمليات اختراق تفوق قدرتها على إبقائهم تحت السيطرة.
وقال موريس كيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج: «لدينا قطاع كامل لا يواكب فيه من يصممون ويطورون ويطرحون هذه الأدوات مسؤولية تطويرها بشكل آمن وإبقائها تحت السيطرة».
وكانت «أوبن إيه آي» قد بدأت التحقيق لأول مرة عقب حادثة الاختراق التي استهدفت «هاغينغ فيس» في أوائل يوليو تموز، عندما خرج أحد وكلائها عن السيطرة لعدة أيام داخل شبكة شركة أخرى، في محاولة فاشلة للغش في اختبار داخلي.
وقالت «أوبن إيه آي» إن حملة الاختراق تلك أدت أيضاً إلى اختراق أربعة حسابات في أربع شركات أخرى، وكانت إحدى هذه الشركات هي مودال (Modal)، ومقرها نيويورك، وهو ما أكده مسؤولون في الشركة.
وقال كيودو إن مخاوفه ازدادت بسبب المؤشرات التي تفيد بأن كلاً من «أوبن إيه آي» و«أنثروبيك» لم تكونا تراقبان الوكلاء أثناء خروجهم عن السيطرة.
وسبق أن ذكرت رويترز أن «أوبن إيه آي» لم تدرك أن أحد وكلائها اخترق «هاغينغ فيس» إلا بعد أن احتوت الشركة المستهدفة الهجوم، وأبلغت مكتب التحقيقات الفيدرالي الأميركي (FBI)، وأعلنت الواقعة للرأي العام.
وقالت «أوبن إيه آي» إن تقرير رويترز تضمن معلومات غير دقيقة، لكنها لم توضح ماهية تلك المعلومات عندما طُلب منها ذلك.
وفي بيانها الصادر الخميس، الذي كشفت فيه كيف نفذت نماذجها عمليات اختراق ضد جهات أخرى عبر الإنترنت، أشارت «أنثروبيك» إلى أنها لم تكن تراقب وكلاءها في الوقت الفعلي، قائلة إن «المراقبة الفورية لسجلات التقييم كانت ستساعد على اكتشاف المشكلة في وقت أبكر.»
وقال كيودو إن ذلك يشير إلى غياب الرقابة الكافية، مضيفاً: «يبدو أنهم لم يكونوا يراقبون أصلاً».
من جانبها، أوضحت «أنثروبيك» أنها كانت تمتلك نظام مراقبة فورية، لكنه لم يُستخدم في هذا النوع من التهديدات بسبب سوء تفاهم بينها وبين أحد شركائها.
رقابة حكومية جديدة
وأدى الاتساع السريع لقضية وكلاء الذكاء الاصطناعي الخارجين عن السيطرة إلى زيادة الضغوط من مشرعين ومسؤولين في الولايات المتحدة وأوروبا للمطالبة بفرض رقابة حكومية جديدة على المختبرات التي تطور النماذج التي تشغل هؤلاء الوكلاء.
وقال الرئيس الأميركي دونالد ترامب للصحفيين يوم الخميس: «نحن ننظر في فرض ضوابط».
وفي يوم الجمعة، قالت المفوضية الأوروبية إنها أجرت محادثات مع «أوبن إيه آي» و«أنثروبيك» بشأن حوادث الاختراق.
من جانبه، قال مارك وارنر، كبير الديمقراطيين في لجنة الاستخبارات بمجلس الشيوخ الأميركي، إن حادثة «أنثروبيك» «تؤكد أن من الصواب تشريعياً إلزام هذه النماذج المتقدمة بإجراء اختبارات إلزامية لقدراتها».
(رويترز)
