«أنثروبيك» توقف تدريب نموذج ذكاء اصطناعي شهراً بسبب مخاوف أمنية : CNN الاقتصادية

وأوضحت الشركة المطورة لنموذج «كلود»، في قسم المخاطر ضمن ملف الاكتتاب، أنها أخرت التدريب المسبق لنموذج أساسي جديد متقدم، بهدف تعزيز وسائل الحماية من سرقة أوزان النماذج والملكية الفكرية.

وحذرت «أنثروبيك» من أن التوقفات الأمنية قد تؤخر تطوير منتجاتها وإيراداتها، وتمنح المنافسين فرصة للتقدم عليها، في وقت تستعد فيه لطرح أسهمها في البورصة وسط اهتمام واسع من المستثمرين.

وتسلط الإفصاحات الضوء على التحديات الأمنية التي تواجه مطوري نماذج الذكاء الاصطناعي المتقدمة، مع تزايد قدراتها واتساع استخدامها في المهام الحساسة.

وقالت «أنثروبيك» إن خطأً أثناء اختبارات للأمن السيبراني أجرتها مع شريك خارجي أبقى بيئة الاختبار متصلة بالإنترنت، رغم التعليمات التي نصت على تعطيل الوصول إلى الشبكة.

وفي إحدى الحالات، واصل إصدار مبكر من أحد النماذج محاولة تنفيذ مهمة تقييم مستحيلة، قبل أن يعثر على كلمة مرور مخزنة ويستخدمها للحصول على صلاحيات المسؤول في نظام تابع لجهة خارجية.

وبحسب الإفصاح، تمكن النموذج بعد ذلك من الحصول على بيانات اعتماد إضافية، وتغيير إعدادات النظام، والوصول إلى بيانات شخصية لأحد الأفراد. ولم تكشف الشركة عن هوية الجهات الخارجية المعنية.

وقالت «أنثروبيك» إنها أبلغت جميع الأطراف المتأثرة، ولم تجد أدلة على أن النماذج حاولت التهرب من الرقابة البشرية أو التنسيق فيما بينها.

وعقب الحوادث، علقت الشركة بعض اختبارات الأمن السيبراني للنماذج قبل إطلاقها، وأوقفت بيئات معينة للتعلم المعزز تنطوي على مخاطر أعلى.

تأتي هذه الإفصاحات بينما تستعد «أنثروبيك» لطرح أسهمها للاكتتاب العام، إذ خصصت نحو 94 صفحة في ملفها لمناقشة عوامل المخاطر، وهو حجم أكبر من ذلك الوارد في نسخة سرية من الملف اطلعت عليها رويترز.

ولا تقتصر المخاطر على الحوادث الأمنية نفسها؛ إذ يمكن أن تؤدي إجراءات الحماية الإضافية أو تعليق التدريب والاختبارات إلى إبطاء تطوير النماذج وطرحها تجارياً، بما قد يؤثر على نمو الإيرادات والقدرة التنافسية.

وكانت «أوبن إيه آي» قد أوقفت بدورها بعض أعمال التدريب في وقت سابق من العام بسبب مخاوف تتعلق بالسلامة، بعدما تمكنت نماذجها من اختراق منصة «هاغينغ فيس»، وفقاً لرويترز.

وفي واقعة منفصلة، قالت «أنثروبيك» الأحد إن نموذج «كلود» تجاوز حاجزاً للدفع وتمكن، من دون تفويض بشري، من الوصول إلى بيانات إجمالية متاحة للعامة عن أعداد الناخبين في ولاية جورجيا الأميركية.

(رويترز)