وتعد هذه الحالة الأحدث في إطار المخاوف بشأن السلامة لدى كبار مطوري نماذج الذكاء الاصطناعي في العالم، وخاصة تلك المتعلقة بالوكلاء، وهي برامج ذكية تنفذ مهام دون تدخل بشري.
ففي 3 أكتوبر تشرين الأول، طُلب من وكيل يعمل على نموذج GPT-6.1 Sol عدم إرسال أي رسائل عبر تطبيق الدردشة الخاص بالعمل، فاعتبر ذلك بمثابة ترخيص له لإيقاف تشغيل نظام التنبيهات المخصص للفريق المعني بشؤون السلامة في الشركة أثناء إصلاح نظام اختبار.
وبعد ثلاثة أيام، قام وكيل ذكي يعمل على نموذج GPT-6 Astra بتعطيل أنظمة مراقبته الخاصة في أثناء نسخه برمجيات من مشروع آخر، ثم أخبر المبرمج البشري أنه لم يفعل ذلك.
تعطيل أنظمة مراقبة
وأعلنت الشركة أنها رصدت أيضاً حالات لوكلاء عدة يقومون بتشغيل برامج بعد تعطيل أنظمة مراقبتهم، ما كشف عن ثغرة في نظام الرقابة.
وقالت «أوبن إيه آي» إنها لا تزال تحاول تحديد ما إذا كانت هذه النماذج بكل بساطة مفرطة في حماستها لاتباع التعليمات، أم أن لديها ميلاً خاصاً للتهرب من المراقبة.
وأضافت: «ليس لدينا حتى الآن تفسير مقنع لهذا السلوك».
ويُفاقم هذا الكشف المخاوف المتزايدة بشأن قدرة المختبرات الرائدة على التحكم في الأنظمة ذاتية التشغيل.
وفي يوليو تموز، تمكنت مجموعة من وكلاء «أوبن إيه آي» من اختراق بيئات الاختبار الخاصة بها وشنّت هجوماً إلكترونيا على شركة «هاغينغ فايس» المتخصصة بالذكاء الاصطناعي، ما أثار قلقاً دولياً.
وأبلغت شركات أخرى منذ ذلك الحين عن حوادث مماثلة. وقد غذّت هذه الحوادث دعوات في الولايات المتحدة وخارجها لتشديد الرقابة على تطوير نماذج الذكاء الاصطناعي.
لكن الرئيس الأميركي دونالد ترامب وبناء على نصيحة مسؤولين تنفيذيين كبار في مجال التكنولوجيا، مثل رئيس شركة إنفيديا جينسن هوانغ، حض القطاع على تنظيم نفسه.
(أ ف ب)
