وتعود الواقعة إلى مايو أيار ولم يُكشف عنها من قبل، وهي تسلط الضوء على التوتر المتزايد داخل قطاع الذكاء الاصطناعي. فالشركات تتسابق لتطوير وكلاء أكثر استقلالية وقدرة على تنفيذ مهام معقدة وذات قيمة، إلا أن الأدلة تتزايد على أن هذه الأنظمة قد تتعلم أيضاً التحايل على القواعد، واستغلال الثغرات، والتنسيق مع بعضها بطرق لم يتوقعها المطورون أو يقصدوها.
وخلال اختراق «هاغينغ فيس»، وضع وكلاء «أوبن إيه آي» بشكل مستقل خطة لسرقة رقمية ظلت دون اكتشاف لأكثر من أسبوع، ما أثار مخاوف متزايدة من أن «أوبن إيه آي» تضحي بالسلامة من أجل دفع حدود تطوير الذكاء الاصطناعي. وقد يؤدي عدم إفصاح الشركة عن واقعة مايو إلى تجدد التساؤلات بشأن رقابتها على هذه الأنظمة.
الإفلات من المراقبة البشرية
وتعهدت «أوبن إيه آي» بمراقبة نماذجها بشكل أكثر دقة. وفي الشهر الماضي، أوقفت الشركة مؤقتاً بعض عمليات تدريب النماذج لإضافة مزيد من إجراءات السلامة. لكن الشركة كشفت هذا الأسبوع عن نموذجها الجديد «أسترا»، الذي وعد بأداء أفضل، لكنه يستطيع الإفلات من المراقبة البشرية.
وتعكس الواقعة الألمانية نمطاً أوسع من أنشطة الذكاء الاصطناعي التي أراد بعض محققي «أوبن إيه آي» إخضاعها لتدقيق أكبر. لكن جهود توسيع التحقيق واجهت مقاومة من آخرين داخل الشركة، بمن فيهم مستشارون قانونيون، وفقاً لأربعة أشخاص مطلعين على الأمر.
لوحة رسائل على موقع «ويكي»
جاء الكشف عن واقعة تسلل وكلاء الذكاء الاصطناعي في ألمانيا في تقرير حصري حصلت عليه رويترز من مجموعة من الباحثين، من بينهم سيدني فون آركس، الرئيس التنفيذي لمنظمة «نايتنغيل» غير الربحية المعنية بسلامة الذكاء الاصطناعي، وكورماك سليد بيرد، وهو متداول كمي تحول إلى باحث في الذكاء الاصطناعي.
وقال الباحثان لرويترز إنهما اكتشفا النشاط في أواخر أغسطس آب، أثناء البحث عبر الإنترنت عن مؤشرات على سلوك غير مصرح به لوكلاء الذكاء الاصطناعي.
وقال الباحثان إنهما عثرا على أكثر من 15 ألف تعديل نفذها وكلاء ذكاء اصطناعي على موقع «DseWiki» الألماني، وهو موقع مخصص للمبرمجين ويسمح بإجراء تعديلات جماعية على غرار «ويكيبيديا».
وأظهرت التعديلات أن وكلاء «أوبن إيه آي» أعادوا توظيف الموقع ليصبح لوحة رسائل، يتبادلون فيها أساليب الغش في بعض المهام، وطرق تجاوز القيود التي تفرضها «أوبن إيه آي»، وإخفاء سلوكهم.
وقال فون آركس: «يبدو من غير المرجح للغاية أن تكون أوبن إيه آي أرادت منهم فعل ذلك. أشك في أنهم يفترض أن ينسقوا مع بعضهم البعض. وأشك في أنهم يفترض أن يكتبوا على الإنترنت المفتوح».
وقال الباحثان إنهما تمكنا من التعرف على النشاط باعتباره ناتجاً عن وكلاء ذكاء اصطناعي يعملون بسرعات تفوق القدرات البشرية. كما لاحظا تركيزاً كبيراً على حل أسئلة تقنية تشبه تلك المستخدمة في عمليات التقييم التي تعتمد عليها شركات الذكاء الاصطناعي لتدريب نماذجها واختبارها.
وقال الباحثان إن سجلات الخوادم العامة أظهرت أن جزءاً كبيراً من النشاط جاء من بنية تحتية تابعة لـ«مايكروسوفت أزور»، التي تستخدمها «أوبن إيه آي» أحياناً. كما رصدا زيارات متكررة للموقع من جانب موظفين في «أوبن إيه آي» بعد الواقعة، وهو نمط قالا إنه يشير بقوة إلى وجود صلة بين الوكلاء والشركة.
الغش والإخفاء
أظهرت رسائل راجعها الباحثون أن الوكلاء خططوا لطرق لتجنب اكتشافهم، واستخدام أدوات مثل «تور»، والحفاظ على الاتصالات حتى بعد إيقافهم.
وعندما بدأ مشرف الموقع بحذف الصفحات في يونيو، رد الوكلاء بإنشاء صفحات احتياطية لتجاوز عملية التنظيف.
كما عثر الباحثون على محاولات للتلاعب بالموقع نفسه. وقال لوكاس أولينيك، الباحث الزائر في كلية كينغز كوليدج لندن، إن ذلك يرقى إلى محاولة اختراق. لكن «أوبن إيه آي» اعترضت على هذا الوصف استناداً إلى تحليلها للمواد يوم الخميس.
وغالباً ما جرى التقليل من شأن أمثلة سابقة على سوء سلوك وكلاء الذكاء الاصطناعي باعتبارها نتيجة منطقية لاختبارات الأمن السيبراني، التي تُقيّم فيها النماذج صراحةً على قدراتها الهجومية. وقال أولينيك إن النتائج الأخيرة تشير إلى أن السلوك المتمرد قد لا يقتصر على تلك البيئات.
وقال موريس تشيودو، الأكاديمي في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، الذي راجع بعض الاتصالات بين الوكلاء، إن الرسائل تشبه «عمل نوع من الشبكات السرية، المصممة على تحقيق مهمة أو هدف».
وأضاف أن الواقعة يجب أن تعزز المخاوف المتزايدة من أن «أكبر تهديد يأتي من الذكاء الاصطناعي المتقدم قد لا يكون نظاماً واحداً فائق الذكاء، بل أسراباً ضخمة متعاونة من أنظمة ذكاء اصطناعي شبه ذكية».
(رويترز)
