تقنيات

أزمة «الوكيل المتمرد».. ألتمان يناقش أمان الذكاء الاصطناعي مع إدارة ترامب : CNN الاقتصادية



يعقد الرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، اجتماعات مع مسؤولين في البيت الأبيض، يوم الخميس، لمناقشة نماذج الشركة المقبلة، إلى جانب اختبارات الأمن السيبراني الطوعية التي تعتزم الحكومة الأميركية تطبيقها على أنظمة الذكاء الاصطناعي المتقدمة، وفقاً لمتحدث باسم الشركة.

ومن المقرر أن يلتقي ألتمان كبيرة موظفي البيت الأبيض سوزي وايلز، ومدير الأمن السيبراني الوطني شون كيرنكروس، ومستشار التكنولوجيا مايكل كراتسيوس، كما سيجتمع أيضاً مع وزير التجارة الأميركي هوارد لوتنيك، بحسب مصدر مطلع تحدث إلى رويترز.

الحادثة التي أثارت المخاوف

تأتي هذه الاجتماعات بعد أكثر من أسبوع على إعلان «أوبن إيه آي» أن أحد وكلاء الذكاء الاصطناعي التابعين لها تمكن من الخروج من بيئة اختبار معزولة خلال اختبار أمني، ما أدى إلى تنفيذ عملية اختراق أثرت في البنية التحتية لشركة «هاغينغ فيس» (Hugging Face)، وهي منصة يستخدمها المطورون لتخزين أكواد نماذج الذكاء الاصطناعي والعمل عليها بشكل تعاوني.

كما أفادت رويترز بأن الوكيل تمكن أيضاً من اختراق أحد عملاء شركة «مودال لابس» (Modal Labs)، وهي شركة تكنولوجية مقرها نيويورك.

اختبارات حكومية طوعية

كان الرئيس الأميركي دونالد ترامب قد وجّه، في الثاني من يونيو حزيران، مستشاريه إلى إعداد إطار لاختبارات أمن سيبراني طوعية تستهدف أكثر نماذج الذكاء الاصطناعي تطوراً، بالتعاون مع الشركات المطورة لهذه التقنيات، وحدد الأول من أغسطس آب موعداً نهائياً لاستكمال تفاصيل البرنامج.

ورداً على أسئلة الصحفيين، قال سام ألتمان، الأربعاء، إنه اطلع على الخطط الخاصة بالاختبارات المقترحة، لكنه امتنع عن الكشف عن مزيد من التفاصيل.

وزير ألماني يدعو إلى الاكتفاء الذاتي الأوروبي في مجال الذكاء الاصطناعي

الجدير بالذكر أن وزير الشؤون الرقمية الألماني، كارستن فيلدبرغر، دعا أوروبا إلى تسريع جهودها لبناء صناعة مستقلة للذكاء الاصطناعي، بعدما أظهر الاختبار الأمني الذي أجرته شركة «أوبن إيه آي».

وقال فيلدبرغر،، إن الحادثة سلّطت الضوء على الحاجة إلى تعزيز إجراءات الحماية، إلى جانب تحقيق قدر أكبر من الاكتفاء الذاتي الأوروبي في مجال الذكاء الاصطناعي، في وقت تتقاطع فيه المخاوف المتعلقة بالأنظمة المتقدمة مع سعي الاتحاد الأوروبي إلى تعزيز سيادته التكنولوجية.

وأضاف «يجب علينا جميعاً أن نأخذ هذه الحادثة على محمل الجد»، واصفاً تمكن الوكيل من العمل بشكل مستقل واختراق أنظمة أخرى بأنه أمر «مثير للقلق للغاية».



Source link

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى