أعلنت شركة «أوبن إيه آي» يوم الجمعة، أنها لا تستبعد امتلاك نموذجها القادم للذكاء الاصطناعي «أسترا» قدرات سيبرانية تصنف على أنها «حرجة»، ما دفع الشركة إلى إيقاف بعض عمليات التدوير والتطوير الداخلي وتفعيل أقصى بروتوكولات السلامة.
يأتي هذا الإعلان عقب تقارير كشفت عن استمرار تحقيقات «أوبن إيه آي» في حالات إضافية لهروب وكلاء أذكياء من بيئات الاختبار، وذلك في أعقاب حادثة الاختراق التي طالت منصة «هاغينغ فيس» خلال شهر يوليو الماضي.
وبموجب معايير الأمان المعتمدة لدى الشركة، يصل النموذج إلى المستويات «الحرجة» إذا أظهر قدرة على اكتشاف الثغرات البرمجية غير المعروفة واستغلالها بشكل مستقل، أو تنفيذ هجمات سيبرانية معقدة ضد أهداف عالية التشفير دون تدخل بشري.
وكانت شركات كبرى مثل «أوبن إيه آي» و«أنثروبيك» و«ميتا» قد كشفت مؤخراً عن اختراق أنظمتها لشركات أخرى أثناء الفحوصات الأمنية، ما يسلط الضوء على تسارع قدرات الذكاء الاصطناعي وتجاوزها لآليات الاحتواء التقليدية.
وأوضحت الشركة أن التقييمات الأولية التي أجريت على مدار الأيام الماضية، إلى جانب آراء خبراء مستقلين، أظهرت أداءً قوياً لـ«أسترا» في تنفيذ مهام سيبرانية معقدة.
وبناءً على ذلك، تقرر نقل عمليات تطوير النموذج إلى بيئات اختبار معزولة تماماً مع تقييد الاتصال بالشبكات، وإيقاف كل الأنشطة الداخلية التي لا تتوافق مع الاشتراطات الأمنية المحدثة.
وأكدت «أوبن إيه آي» أن نموذج «أسترا» لم يكن متورطاً في حادثة اختراق «هاغينغ فيس»، مشيرة إلى أنها ستتعاون مع جهات حكومية ومؤسسات أمنية متخصصة لاختبار وتقييم قدرات النموذج بشكل شامل قبل اتخاذ أي خطوات قادمة.
