وأظهرت النتائج أن النماذج الصغيرة، التي يقل عدد معلماتها عن 30 مليارًا، استطاعت تنفيذ الخطوات المتعددة اللازمة لعملية الاستنساخ، لكنها واجهت صعوبات في إكمال التسلسل بأكمله من البداية إلى النهاية.
نماذج صغيرة تقترب من الاستنساخ
ركزت تجارب «أنثروبيك» على اختبار ما إذا كانت نماذج الذكاء الاصطناعي قادرة على العثور على أجهزة ضعيفة الحماية، ونقل نسخ من نفسها إليها، ثم مواصلة الانتشار بصورة مستقلة.
ووجدت الشركة أن النماذج الصغيرة، التي تضم أقل من 30 مليار معلمة، تمكنت من تنفيذ الخطوات المختلفة المطلوبة لتحقيق هذا الهدف، رغم أنها لم تنجح باستمرار في إكمال العملية بأكملها بصورة مستقلة.
وفي اختبارات مبسطة أُزيلت منها بعض إجراءات الحماية الأمنية، توصلت «أنثروبيك» إلى أن نموذج «جي إل إم 5.2» والنماذج الأقوى منه كانت قادرة على تنفيذ عملية الاستنساخ من البداية إلى النهاية.
وتشير هذه النتائج إلى أن تطور قدرات النماذج الصغيرة قد يوسع نطاق المخاطر المرتبطة بالذكاء الاصطناعي، لتشمل الأجهزة المتصلة بالإنترنت التي لا تتمتع بمستويات كافية من الحماية، وليس فقط البنية التحتية الحاسوبية المتقدمة.
أجهزة ضعيفة الحماية
ركزت الشركة في أبحاثها على الأجهزة المتصلة بالإنترنت، مثل أجهزة التلفزيون العاملة بنظام «أندرويد» والأجهزة المنزلية الذكية وغيرها من الأدوات المتصلة بالشبكة، نظرًا إلى أن هذه الأجهزة غالبًا ما تكون ضعيفة الحماية الأمنية.
وأضافت أن هذه الأنظمة، على عكس البرمجيات الخبيثة التقليدية التي لا تعتمد على الذكاء الاصطناعي، قد تتمكن أيضًا من التعرف على أجهزة غير مألوفة والتعامل معها بصورة مستقلة، ما يفتح المجال أمام استهداف معالجات مراكز البيانات.
وتثير هذه الإمكانية مخاوف بشأن قدرة الأنظمة ذاتية الانتشار على تجاوز الأجهزة التي بدأت منها، والوصول إلى موارد حاسوبية أخرى عبر الشبكات، إذا تمكنت من استغلال نقاط الضعف الأمنية المتاحة.
الاستنساخ الذاتي قبل نهاية العام
حذرت «أنثروبيك» من أنه إذا استمرت النماذج الصغيرة في التحسن بالمعدل التاريخي نفسه، فقد تصبح قادرة على استنساخ نفسها بصورة مستقلة بحلول نهاية العام الجاري.
وأضافت أن النماذج الصغيرة التي تعتمد على الأوزان، وهي القيم الرقمية التي تحدد سلوك النموذج وطريقة معالجته للمعلومات، قد تلحق بها بعد ذلك بوقت قصير في القدرة على تنفيذ عمليات الاستنساخ الذاتي.
ويشير هذا التقدير إلى احتمال تقلص الفترة الزمنية اللازمة لتطوير نماذج قادرة على الانتشار المستقل، إذا استمر التحسن في قدراتها التقنية بالمعدلات التي رصدتها الشركة.
تحصين الأنظمة أولوية
قالت «أنثروبيك» إن أنظمة الذكاء الاصطناعي ذاتية الانتشار يُرجح أن تتوسع ببطء، مع اعتمادها على موارد حاسوبية متاحة على نطاق واسع ولا تتمتع بمستويات مرتفعة من الأمان النسبي.
وأضافت أن تعزيز حماية الأنظمة والأجهزة المتصلة بالإنترنت يجب أن يكون أولوية، بهدف زيادة صعوبة انتشار وكلاء الذكاء الاصطناعي بصورة مستقلة.
وتسلط هذه التحذيرات الضوء على تحدٍ أمني متنامٍ مع تطور قدرات نماذج الذكاء الاصطناعي، إذ قد لا تقتصر المخاطر على الأنظمة المتطورة العاملة في مراكز البيانات، بل تمتد إلى أجهزة تجارية صغيرة يمكن الوصول إليها عبر الإنترنت.
(رويترز)
