وتتركز المخاوف على الذكاء الاصطناعي القائم على الوكلاء، والمصمم لتنفيذ المهام مع تدخل بشري محدود أو من دون تدخل بشري تقريباً، ويشكل الوعد بعمل الوكلاء على مدار الساعة عاملاً محورياً في ثقة المستثمرين بجاذبية الذكاء الاصطناعي باعتباره تقنية قادرة على إحداث تحول كبير.
الكشف عن GPT-6 أسترا
وقالت «أوبن إيه آي» في منشور على مدونتها الخميس: «يمثل أسترا حدوداً جديدة في سرعة استخدام أجهزة الكمبيوتر ودقته وسلامته»، فعلى سبيل المثال قالت الشركة إن «أسترا» قلص الوقت اللازم للبحث عن جليسة قطط من 30 دقيقة عندما ينفذه شخص إلى 5 دقائق و27 ثانية، أما البحث عن وظيفة، فيستغرق دقيقتين و51 ثانية فقط، مقارنةً بـ5 ساعات من دون «أسترا».
لكن «أوبن إيه آي» قالت أيضاً إن «أسترا» أكثر ميلاً إلى إخفاء أو تمويه أساليبه المتعمدة خطوة بخطوة لحل المشكلات، والمعروفة باسم «الاستدلال»، ما يجعل من الصعب على البشر تقييم أساليبه لاحقاً، وأضافت الشركة أن «أسترا» لا يستطيع حتى الآن إخفاء أساليبه دائماً عند التعامل مع المشكلات الأكثر تعقيداً، لكنه يتحسن في إخفاء آثاره.
وفي إفادة صحفية الخميس، أشار كبير العلماء في «أوبن إيه آي» إلى أن مراقبة النموذج أصبحت أكثر صعوبة، إلى جانب «المواءمة»، وهي المبدأ الذي يفترض أن يعكس الذكاء الاصطناعي القيم البشرية.
وقال ياكوب باتشوكي: «كلما أصبحت النماذج أكثر قدرة، أصبح فهم ما يمكنها فعله بالضبط أكثر صعوبة». وأضاف: «هذا لا يضمن أنه مع استمرار زيادة الذكاء ستكون أساليبنا كافية، لأن التقدم في الذكاء لا يضمن التقدم في المواءمة».
وتُعد مراقبة الوكلاء عنصراً أساسياً في جهود «أوبن إيه آي» لطمأنة الجهات التنظيمية والمشرّعين والجمهور، ومساعدتها على تجنب وقوع حادث أمني آخر.
(رويترز)
