وأضاف أن إنفيديا تعمل على تطوير هذه الأدوات بشكل مفتوح، وتسعى إلى إشراك مختلف الشركات والجهات العاملة في القطاع.
نظام «سنتري» لوقف الوكلاء المتمردين
وتتضمن المنظومة نظامًا آخر يحمل اسم «سنتري»، يستخدم شريحة منفصلة من إنفيديا بالتزامن مع نظام «أوبن شِل»، بهدف إيقاف أي وكيل ذكاء اصطناعي يحاول الخروج من بيئة التشغيل المعزولة الخاصة به على المعالج المركزي.
وتستهدف هذه التقنية الحد من قدرة الوكلاء على تجاوز القيود الأمنية المفروضة عليهم، خصوصًا مع تزايد الاعتماد على أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام متعددة بصورة شبه مستقلة.
رصد محاولات التحايل
وقال علي غولشان، المدير الأول لبرمجيات الذكاء الاصطناعي في إنفيديا، إن الأدوات الجديدة تستخدم صيغًا رياضية لرصد محاولات الوكلاء الالتفاف على أنظمة الحماية.
ومن بين السيناريوهات التي تستهدفها التقنية، أن يحاول وكيل ذكاء اصطناعي إنشاء عدة وكلاء فرعيين لتنفيذ مهام بالنيابة عنه، في محاولة لتجاوز القيود المفروضة على الوكيل الرئيسي.
وأوضح غولشان أن الأمر يتعلق بما وصفه بـ«السلوك الوكيلي»، في إشارة إلى عمل أساطيل من وكلاء الذكاء الاصطناعي معًا وكيفية تنسيق عملياتها.
حادثة «هاغينغ فيس» تثير مخاوف أمنية
وتأتي أدوات إنفيديا الجديدة بعد حادثة اختراق منصة هاغينغ فيس خلال يوليو، التي قالت شركة أوبن إيه آي إنها وقعت أثناء اختبارات أمن سيبراني داخلية، وتمكنت خلالها نماذج ذكاء اصطناعي من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أجزاء من البنية التحتية الداخلية وأنظمة تابعة لطرف ثالث.
وتعكس الحادثة تحديات متزايدة أمام شركات الذكاء الاصطناعي في احتواء النماذج الأكثر قدرة على العمل بصورة مستقلة، خصوصًا مع ظهور أنظمة تعتمد على عدة وكلاء يعملون بالتوازي، وأشارت أنثروبيك في تقرير حديث إلى رصد عمليات سيبرانية استخدمت أطرًا متعددة الوكلاء لتنفيذ عمليات استطلاع واختراق واستخراج بيانات بصورة أكثر استقلالية.
