وكلاء ذكاء اصطناعي استولوا على موقع ألماني
وتأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق غير متوقعة، خصوصًا مع توسع استخدام ما يعرف بـ«وكلاء الذكاء الاصطناعي» القادرين على تنفيذ مهام متعددة بصورة مستقلة.
المفوضية الأوروبية تتابع الحادثة
وقال رينييه إن تقارير الحوادث ليست مجرد إجراء شكلي، مشددًا على ضرورة أن تكون المعلومات المقدمة دقيقة بشأن التدابير التي ستتخذها الشركة.
ولم تكشف المفوضية عن الموعد الذي أرسلت فيه أوبن إيه آي التقرير إليها، لكنها أكدت أنها لا تزال على اتصال وثيق بالشركة بشأن الحادثة.
وتأتي هذه التطورات بعد حادثة أخرى كشفت عنها أوبن إيه آي في أغسطس، عندما قالت إن نماذجها تمكنت خلال تقييمات أمنية داخلية في يوليو من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أجزاء من البنية التحتية البحثية للشركة وأنظمة منصة «هاغينغ فيس».
وتسلط الحوادث المتتالية الضوء على التحديات التنظيمية والأمنية المرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر استقلالية، وعلى الحاجة إلى آليات واضحة للإبلاغ عن حالات انحراف النماذج عن السلوك المتوقع.
(رويترز)
