الرئيس التنفيذي لأنثروبيك يدعو شركات الذكاء الاصطناعي إلى إبطاء تطوير النماذج : CNN الاقتصادية

وقال أمودي في مقال: «يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا أن نحسن استخدام الوقت الذي نكسبه».

وأوضح أمودي أن المقترح لا يعني وقف تدريب النماذج أو التقدم التقني، وإنما منح الشركات وقتاً كافياً لضمان مواءمة النماذج وتعزيز إجراءات الحماية، إلى جانب الاستعانة بجهات مستقلة للتأكد من اتخاذ هذه الخطوات.

ويقترح أمودي أن تعمل شركات الذكاء الاصطناعي المتقدمة على إدخال مراجعين مستقلين بشكل دائم داخل الشركات التي تطور النماذج الرائدة، مع منحهم إمكانية الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.

كما دعا شركات الذكاء الاصطناعي إلى التعاون طوعاً لوضع معايير مشتركة، في وقت يتزايد فيه عدد المشرعين الأميركيين الذين يدعون إلى وضع قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.

يأتي مقال أمودي بعد أيام من إصدار أنثروبيك تقريراً استخباراتياً عن التهديدات كشف استخدام نماذج «كلود» في أنشطة تراوحت بين تطوير الأسلحة والعمليات الإلكترونية والمراقبة والاحتيال.

كما تصاعدت المخاوف بشأن الأضرار المحتملة للذكاء الاصطناعي هذا الأسبوع بعد استقالة الباحث في أنثروبيك جاكوب كوكسون، الذي قال إن أشخاصاً يطورون الذكاء الاصطناعي يعتقدون بجدية أن التكنولوجيا قد تؤدي إلى وفاة البشر جميعاً بحلول نهاية العقد.

وتأتي الدعوة إلى إبطاء التطوير أيضاً في ظل حوادث أثارت مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على الوصول إلى أنظمة خارجية.

وأفادت رويترز الأسبوع الماضي بأن مجموعة من وكلاء الذكاء الاصطناعي التابعة لشركة أوبن إيه آي اخترقت موقعاً إلكترونياً ألمانياً وحولته إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، في حادثة جاءت في أعقاب اختراق مستودع «هاغينغ فيس» المفتوح المصدر في يوليو.

وقالت رويترز إن حوادث أخرى حاولت فيها وكلاء ذكاء اصطناعي من شركات تطوير، من بينها أوبن إيه آي، اختراق أنظمة خارجية أو الوصول إليها، زادت المخاوف بشأن تنامي قدرات النماذج وقدرة مطوريها على احتوائها.

وتأتي مقترحات أمودي في إطار توجه أوسع لدى أنثروبيك نحو التقييم المستقل والشفافية مع تقدم قدرات النماذج.

وكانت الشركة قد طرحت إطاراً للسياسات الخاصة بالذكاء الاصطناعي المتقدم يدعو إلى اختبار النماذج الرائدة، ونشر ملخصات لنتائج الاختبارات، وإخضاعها لتقييمات مستقلة، إلى جانب تعزيز أمن بيئة التطوير.

وتقول أنثروبيك إن مخاطر النماذج المتقدمة تشمل المخاطر البيولوجية والسيبرانية ومخاطر فقدان السيطرة وأتمتة البحث والتطوير، مشيرة إلى أن تسارع قدرات الذكاء الاصطناعي يستدعي مواكبة الحوكمة لهذه الوتيرة.

ويؤكد أمودي أن الهدف من المقترح ليس وقف تطور الذكاء الاصطناعي، وإنما إدارة سرعة التقدم بحيث تواكب إجراءات السلامة والرقابة ارتفاع قدرات النماذج.

وتدعو رؤيته إلى استخدام الوقت الذي يمكن اكتسابه من إبطاء وتيرة التطوير في تعزيز إجراءات السلامة، وتحسين تقييم المخاطر، وإتاحة دور أكبر للجهات المستقلة في مراقبة النماذج الأكثر تقدماً.