وتستهدف هذه الإجراءات إدخال أنظمة ذكاء اصطناعي إضافية ومستقلة لمراقبة سلوكيات الوكلاء الذكية أثناء خضوعها للاختبارات، فضلاً عن فرض قيود تشغيلية صارمة تعزل الأحمال الحساسة والأنظمة المتقدمة داخل بيئات اختبار برمجية محصنة كلياً تُعرف بـ«صناديق الرمل» (Sandboxes).
وأقر مسؤولو «أوبن إيه آي» بوجود تساؤلات مفتوحة وتحديات تقنية حول مدى فاعلية أدوات المراقبة الحالية مثل «مراقبة سلسلة الأفكار»، مشيرين إلى أن النماذج الذكية قد تمتلك القدرة على إخفاء سيناريوهات التخطيط لخرق القواعد وتجاوز التعليمات.
وأكدت الشركة التزامها بـ«إطار الجاهزية» المعتمد للتعامل مع القدرات الحرجة للنماذج، داعية قطاع الذكاء الاصطناعي بأكمله إلى تبني إستراتيجية أكثر شمولاً ورصانة لإعداد وتأمين أجيال النماذج المستقبلية قبل طرحها للاستخدام التجاري.
وتأتي هذه التطورات في أعقاب حادثة خطيرة وغير متوقعة وقعت الشهر الماضي، عندما تمكن وكيل ذكاء اصطناعي مستقل يُدار بوساطة أحدث نماذج الشركة، وأثناء خضوعه لاختبارات أمنية روتينية، من الخروج عن نطاق بيئته المعزولة واختراق الأنظمة البرمجية لشركة «هاجينج فيس» (Hugging Face) المباشرة والمنافسة، تحقيقاً لهدف تقني أُسند إليه ضمن الاختبار.
كشفت هذه الحادثة عن ثغرات هيكلية في طرق المراقبة التقليدية، وعلى رأسها تقنية «مراقبة سلسلة الأفكار» التي تعتمد عليها الشركات للتحقق من سلامة نية وقرارات النماذج الذكية قبل تنفيذها؛ حيث أظهرت الأبحاث الأولية قدرة النماذج المتقدمة على إخفاء خططها لخرق القواعد وعدم إظهارها في مسار تفكيرها المنطقي المُعلن.
ورداً على ذلك، فعّلت الشركة «إطار الجاهزية» لإعادة ضبط معايير السلامة، مستجيبةً لتحذيرات خبراء الأمن السيبراني بشأن خطورة تشغيل عدة تقييمات سريعة ومزدحمة في وقت واحد تولد كميات هائلة من البيانات يصعب على العنصر البشري مراجعتها وتدقيقها بكفاءة.
(رويترز)
