«أوبن إيه آي» و«أنثروبيك» و«غوغل» تبحث إنشاء هيئة للرقابة على مخاطر الذكاء الاصطناعي : CNN الاقتصادية

وتستند الفكرة إلى مقترح قدمه ديميس هاسابيس، الرئيس التنفيذي لـ«غوغل ديب مايند»، لإنشاء هيئة أميركية للمعايير تكون على غرار هيئة تنظيم الصناعة المالية الأميركية «فينرا» (FINRA)، وتتولى اختبار النماذج المتقدمة وتقييم مخاطرها قبل طرحها للاستخدام على نطاق واسع.

تقوم الفكرة على إنشاء آلية رقابية تجمع بين التنظيم الحكومي والتنظيم الذاتي للصناعة، على أن تمول شركات الذكاء الاصطناعي الهيئة، بينما تضم خبراء تقنيين مستقلين وممثلين عن مجتمع المصادر المفتوحة.

وكان هاسابيس قد اقترح أن تعمل الهيئة في البداية على أساس طوعي، بحيث تقدم شركات الذكاء الاصطناعي نماذجها المتقدمة إلى جهة مستقلة لاختبارها وتقييم مخاطرها قبل إطلاقها، مع إمكانية تحول هذه المراجعة مستقبلًا إلى شرط للاستخدام في الولايات المتحدة.

وتختلف «فينرا» عن الجهات الحكومية التقليدية، إذ تعمل كجهة تنظيم ذاتي للقطاع المالي تحت إشراف هيئة الأوراق المالية والبورصات الأميركية، وهو النموذج الذي تسعى المقترحات الجديدة إلى الاستفادة منه في تنظيم الذكاء الاصطناعي.

تأتي هذه التحركات في وقت تصاعدت فيه المخاوف بشأن قدرات نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع تطور الأنظمة القادرة على تنفيذ مهام بصورة شبه مستقلة.

وأثارت حوادث تتعلق بوكلاء ذكاء اصطناعي خلال اختبارات أمنية مخاوف بشأن إمكانية خروج هذه الأنظمة عن البيئات التجريبية المحددة لها أو استخدامها في تنفيذ هجمات إلكترونية.

يعكس المقترح تحولًا في النقاش حول تنظيم الذكاء الاصطناعي من الاعتماد الكامل على التشريعات الحكومية إلى البحث عن نموذج يجمع بين الرقابة الرسمية والتنظيم الذاتي للصناعة.

لكن الفكرة تواجه تحديات، من بينها مدى استقلال الهيئة عن الشركات التي تمولها، وما إذا كانت الشركات الكبرى ستقبل بإخضاع نماذجها لاختبارات موحدة قبل إطلاقها.

كما لا يوجد حتى الآن اتفاق نهائي على شكل الهيئة أو صلاحياتها، فيما لا تزال المباحثات بين «أوبن إيه آي» و«أنثروبيك» و«غوغل» مستمرة.

وتأتي هذه الجهود بالتوازي مع نقاش داخل الإدارة الأميركية بشأن إنشاء جهة رقابية مستقلة للذكاء الاصطناعي على غرار «فينرا»، في وقت يعارض فيه بعض قادة قطاع التكنولوجيا فكرة فرض هيئة تنظيمية وطنية واسعة النطاق.

وبذلك، قد تشكل الهيئة المقترحة محاولة من شركات الذكاء الاصطناعي لوضع قواعد مشتركة للسلامة والاختبار قبل أن تفرض الحكومات قواعد أكثر صرامة، خصوصًا مع تسارع تطوير النماذج المتقدمة وارتفاع المخاوف بشأن مخاطرها.

(وكالة الأنباء الفرنسية)