يأتي هذا القرار في وقتٍ يدعو فيه قادة هذا المجال إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
وكان داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، قد اقترح في وقت سابق من هذا الشهر مبدأ «ضبط وتيرة التقدم في التقنيات الرائدة»، وهو المقترح الذي وافق عليه سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وغيره من المسؤولين التنفيذيين، متعهدين بفرض المزيد من تدابير السلامة.
وتصف أوبن إيه آي نموذجها «آسترا» على موقعها الإلكتروني بأنه «نموذج متطور للغاية في مجالات استخدام الحاسوب، والتصفح، والعمل المهني، وهندسة البرمجيات، والأمن السيبراني، والعلوم».
وفي تصريح لشبكة CNN، قال ساتشي جاين، رئيس قسم أنظمة السلامة في أوبن إيه آي، إن هناك مقايضات وتحديات تتعلق بسلامة الذكاء الاصطناعي؛ إذ تتطلب تدابير السلامة تحقيق توازن بين «الالتزام بنطاق العمل المحدد» و«تجنب الكسل» أثناء تنفيذ النماذج للمهام الموكلة إليها.
وأوضح جاين قائلاً: «على الرغم من أن نموذج (جي بي تي استرا 6.1) قد حقق تحسناً في جوانب مثل مشكلة كسل النموذج، فإنه لم يلبِّ المعايير المطلوبة تماماً فيما يتعلق بالالتزام بنطاق العمل والصلاحيات الممنوحة، وكذلك في كيفية إبلاغ المستخدم بطبيعة العمل الذي أنجزه».
وأضاف أن هناك «معايير صارمة للغاية» فيما يخص السلامة عند إتاحة نماذج الذكاء الاصطناعي للمستهلكين.
وكان من المقرر إطلاق نموذج «جي بي تي استرا 6.1» في شهر أكتوبر المُقبل، إلا أن الشركة قررت أنها ستواصل طرح نماذج «أخرى» في المستقبل.
وقال جاين: «نحن حريصون على ضمان أن تكون عملية تطوير نماذجنا آمنة، سواء كان ذلك داخل الشركة أو عند طرحها للمستخدمين».
وقد تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي منذ الصيف الماضي، حين كشفت أوبن إيه آي أن الأنظمة الذكية المستقلة «الوكلاء» التابعين لها قد خرجوا عن بيئة الاختبار واخترقوا منصة «هاجينج فيس» الناشئة المتخصصة في الذكاء الاصطناعي، كما أفادت شركات منافسة مثل «أنثروبيك» و«ميتا» و«غوغل»، بأن الأنظمة الذكية التابعة لها كانت متورطة في محاولات اختراق منفصلة.
وتواصل أوبن إيه آي التحقيق في كيفية استطاعت هذه الأنظمة الذكية (الوكلاء) الوصول إلى الإنترنت منذ حادثة اختراق «هاجينج فيس»، وقد أفادت مؤخراً بأن هذه الأنظمة استهدفت مواقع حكومية في كل من الولايات المتحدة وأستراليا.
