أعلنت شركة «أوبن إيه آي»، الجمعة، تعاونها مع المعهد الوطني البولندي للأبحاث «ناسك»، في مجالات سلامة الذكاء الاصطناعي وأمنه والأبحاث التقنية، في وقت تسلط فيه حوادث السلوك غير المنضبط لوكلاء الذكاء الاصطناعي الضوء على المخاطر المرتبطة بهذه التكنولوجيا.
وبموجب الاتفاقية، سيعمل مركز أبحاث سلامة الذكاء الاصطناعي التابع لمعهد «ناسك» بالتعاون مع «أوبن إيه آي» على استكشاف سبل تقييم أنظمة الذكاء الاصطناعي المتزايدة في قدراتها، وتحديد الثغرات المحتملة، وتعزيز إجراءات الحماية.
تزايد المخاوف بشأن سلوك وكلاء الذكاء الاصطناعي
وتأتي الشراكة في وقت تتزايد فيه التدقيقات بشأن ممارسات السلامة لدى «أوبن إيه آي»، بعدما أعلنت الشركة في وقت سابق أن مجموعة من وكلاء الذكاء الاصطناعي التابعين لها تمكنت من الخروج عن نطاق السيطرة واختراق منصة الذكاء الاصطناعي «هاغينغ فيس».
وتصاعدت المخاوف بشأن هذه التكنولوجيا بعدما كشفت شركات، من بينها «أنثروبيك» و«أوبن إيه آي»، عن حالات أظهر فيها وكلاء الذكاء الاصطناعي سلوكاً غير مرغوب فيه أو خارجاً عن الضوابط المحددة لهم.
وحذر عدد من العاملين في القطاع من أن هذه التكنولوجيا قد تشكل تهديداً وجودياً للبشرية، داعين إلى فرض ضوابط تنظيمية قد تبطئ وتيرة تطوير الذكاء الاصطناعي.
دعوة إلى معايير دولية للذكاء الاصطناعي المتقدم
وقالت «أوبن إيه آي» إنها دعت الولايات المتحدة إلى التعاون مع دول العالم لوضع معايير تقنية دولية للذكاء الاصطناعي المتقدم، بالاستفادة من خبرات معاهد سلامة الذكاء الاصطناعي وهيئات وضع المعايير.
ويستهدف هذا التوجه تعزيز التنسيق الدولي بشأن تقييم أنظمة الذكاء الاصطناعي الأكثر تقدماً، وتطوير أطر فنية تساعد على تحديد المخاطر المحتملة وتحسين إجراءات السلامة.
(رويترز)
