عزل النماذج القادرة على تنفيذ هجمات سيبرانية
ودعا الباحثون المؤسسات التي تطور هذه النماذج أو تختبرها أو تستخدمها إلى اعتماد العزل المادي عن الإنترنت، بما يمنع النماذج من الوصول إلى الشبكة أو تنفيذ أنشطة خارج البيئة المحددة لها.
حوادث اختراق تثير مخاوف بشأن أمن البنية التحتية
كشفت شركات أميركية رائدة في مجال الذكاء الاصطناعي خلال الأشهر الماضية عن سلسلة حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات الاحتواء والوصول إلى الإنترنت.
ووفقاً للرسالة، استُخدمت بعض هذه القدرات في اختراق مواقع إلكترونية، بما في ذلك الوصول غير المصرح به إلى مواقع حكومية أسترالية.
وحذّر الباحثون من أن استمرار أساليب التطوير والنشر الحالية قد يؤدي إلى تكرار هذه الحوادث، مع احتمال أن تكون الحوادث المستقبلية أكثر ضرراً للبنية التحتية الحيوية المعرضة للهجمات.
هيئة دولية لمراقبة إخفاقات الاحتواء
دعت الرسالة إلى إنشاء هيئة دولية تتولى وضع معايير موحدة وأفضل الممارسات الأمنية المتعلقة بنماذج الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية.
كما طالب الباحثون بإلزام الشركات بالإبلاغ عن أي إخفاق في احتواء النماذج إلى هذه الهيئة، على أن تتولى تتبع الحوادث وتسجيلها وتحليلها.
وأكدت الرسالة أن الشفافية ضرورية للتعلم من الأخطاء ومحاسبة الجهات المسؤولة، بما يساعد على تحسين إجراءات السلامة ومنع تكرار الاختراقات.
انقسام بشأن تشديد القيود على تطوير الذكاء الاصطناعي
أعادت الحوادث الأخيرة إحياء الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، لكن الحكومات وشركات التكنولوجيا لا تزال منقسمة بشأن مدى الحاجة إلى فرض قيود ملزمة على القطاع.
وفي الولايات المتحدة، تعارض إدارة الرئيس دونالد ترامب اللوائح الإلزامية التي ترى أنها قد تعرقل الابتكار، في ظل المنافسة الشديدة مع الصين، وتدعم بدلاً من ذلك مدونة سلوك طوعية.
ولا يوجد قانون اتحادي أميركي مخصص لتنظيم هذه النماذج على وجه التحديد، ما يبقي النقاش مفتوحاً بشأن كيفية الموازنة بين الابتكار والحد من المخاطر الأمنية.
الأمن السيبراني في مواجهة تطور قدرات الذكاء الاصطناعي
تعكس مطالب الباحثين تنامي المخاوف من أن يؤدي تطوير نماذج أكثر قدرة على تنفيذ المهام السيبرانية إلى زيادة مخاطر الاختراقات، خصوصاً إذا تمكنت هذه النماذج من تجاوز ضوابط الوصول أو العمل خارج البيئات المخصصة لها.
ويتمحور المقترح حول تعزيز الاحتواء التقني، وتوحيد معايير الاختبار، والإبلاغ عن الإخفاقات، باعتبارها إجراءات وقائية للحد من المخاطر قبل انتشار النماذج في تطبيقات أكثر حساسية.
(رويترز)
