وقالت إدارة شرطة فيلادلفيا إن البلاغ الكاذب أُرسل في يوليو تموز عبر موقع عام يتيح للأشخاص تقديم معلومات عن جرائم القتل التي لم تُحل.
ووفقاً لرواية أنثروبيك، كما نقلتها الشرطة، كان النموذج يجري اختباراً يتضمن التفاعل مع مواقع إلكترونية تُختار عشوائياً، وعندما وصل إلى الموقع، قدم معلومات كاذبة بشأن جريمة قتل لم تُحل.
وقدّم نموذج الذكاء الاصطناعي نفسه على أنه شخص قد تكون لديه معلومات عن القضية.
وزادت الواقعة المخاوف بشأن التوسع في استخدام وكلاء الذكاء الاصطناعي، وهي أنظمة مبرمجة لتنفيذ إجراءات متعددة الخطوات دون إشراف بشري.
ونشرت أنثروبيك يوم الجمعة تقريراً يوضح أنواعاً متعددة من التصرفات «غير المقصودة» التي صدرت عن نماذجها، بما في ذلك الواقعة المتعلقة بموقع شرطة فيلادلفيا.
وأشار التقرير إلى أن جهات أخرى تأثرت بهذه التصرفات، من بينها البيت الأبيض ووكالات حكومية أميركية أخرى.
حوادث الأمن السيبراني
وقالت أنثروبيك إن الوقائع التي كُشف عنها حديثاً «كان تأثيرها الفعلي في العالم محدوداً»، وإنها كانت «أقل خطورة بكثير» من حوادث أخرى متعلقة بالأمن السيبراني سبق الإبلاغ عنها.
وحددت الشركة أربع فئات من الحوادث رصدتها خلال مراجعة داخلية لنموذج كلود، وهي استغلال ثغرات برمجية «أساسية»، وإرسال نماذج إلى مواقع إلكترونية، وتجاوز متطلبات الرموز أو الرسوم، واستخدام روابط قصيرة للالتفاف على قيود أخرى.
وأضاف التقرير أن أنثروبيك أوقفت مؤقتاً إمكانية وصول كلود إلى الإنترنت خلال جميع الاختبارات الداخلية، وذلك «إلى حين التأكد من أن تدابير الأمن والمراقبة… ترصد بشكل موثوق سلوكيات من هذا النوع».
البلاغ الزائف
وقالت شرطة فيلادلفيا إن البلاغ الزائف، المؤرخ في 18 يوليو تموز، صُنّف على أنه رسالة مزعجة، ولم يصل مطلقاً إلى مركز الجرائم الآنية التابع للإدارة، حيث كان من المفترض إخضاعه للتدقيق.
وأضافت الشرطة أنه لا توجد مؤشرات على اختراق أنظمتها أو تسريب بيانات الإدارة.
وأوضحت الشرطة أن أنثروبيك اكتشفت الواقعة في 28 سبتمبر أيلول، وأوقفت عملية الاختبار الآلي المسؤولة عنها، وأضافت خطوة تحقق جديدة إلى الاختبارات المستقبلية.
وأبلغت الشركة إدارة الشرطة بالواقعة في 7 أكتوبر تشرين الأول، وعقد الجانبان اجتماعاً في اليوم التالي.
وقالت إدارة الشرطة: «إن التأخير لمدة شهرين في اكتشاف الواقعة وإبلاغ المدينة بها أمر غير مقبول».
وأضافت الشرطة أن إجراءات الحماية التي تطبقها حدّت من تأثير الواقعة، لكن ذلك «لا يقلل من خطورة تقديم نظام ذكاء اصطناعي معلومات مفبركة كما لو كانت صادرة عن شخص لديه معرفة بجريمة قتل».
(أ ف ب)
