وتأتي الخطوة وسط تصاعد المخاوف من قدرة وكلاء الذكاء الاصطناعي الأكثر تطوراً على اكتشاف الثغرات البرمجية واستغلالها، بما في ذلك الثغرات الموجودة في أنظمة الحماية المصممة للحد من مخاطر هذه النماذج.
ثغرة أدت إلى وقف التدريب
واستأنفت الشركة تدريب نماذجها المتقدمة باستخدام التعلم المعزز وتشغيلها داخلياً في الأول من أكتوبر، بعد تطبيق إجراءات حماية إضافية.
كما أطلقت حملة لاختبار البنية التحتية البحثية للشركة بحثاً عن ثغرات قد تسمح للنماذج بالخروج من بيئات الحوسبة المعزولة.
مخاوف من نشاط وكلاء الذكاء الاصطناعي
تأتي هذه الإجراءات في وقت تتزايد فيه عمليات التدقيق في أنظمة الأمان الداخلية للشركة. وكانت جهتا تقييم سلامة الذكاء الاصطناعي «METR» و«Redwood Research» قد أعلنتا الخميس اكتشاف ثغرات جديدة في نظام المراقبة الداخلي لدى أوبن إيه آي.
وتجري الشركة أيضاً مراجعة واسعة لنشاط نماذجها، بعدما رصدت حوادث مرتبطة بنشاط غير مصرح به لوكلاء الذكاء الاصطناعي، وأبلغت أكثر من 100 مؤسسة بهذه الحوادث، وفقاً لتقارير سابقة لـ«رويترز».
وتسلط هذه التطورات الضوء على التحدي الأمني المصاحب لتطوير نماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، والحاجة إلى تعزيز الضوابط التي تمنعها من الوصول غير المصرح به إلى الأنظمة والموارد الخارجية.
(رويترز)
