وقال ديفيد روبنسون، في مقال نشرته مجلة The Atlantic يوم السبت بعنوان «استقلت من OpenAI لأن ثقافتها معطوبة»، إن شركات الذكاء الاصطناعي، ومن بينها OpenAI، لا تتعامل مع مخاطر السلامة بالقدر الكافي من الحذر، داعيًا إلى إعطاء خبرات السلامة والأبحاث المتخصصة أولوية أكبر قبل تطوير أنظمة أكثر قدرة.
«حان وقت التوقف عن التجربة والخطأ»
كتب روبنسون: «لقد انتهى وقت التجربة والخطأ»، معتبرًا أن أنظمة الذكاء الاصطناعي المتقدمة تحتاج إلى إجراءات حماية أقرب إلى تلك المستخدمة في صناعات عالية المخاطر، مثل الطاقة النووية والطيران.
وتأتي تصريحات روبنسون في خضم نقاش متزايد داخل صناعة الذكاء الاصطناعي بشأن ما إذا كانت الشركات تتحرك بسرعة أكبر من اللازم في تطوير أنظمة تزداد قدراتها تعقيدًا وقوة.
وواجهت OpenAI ومنافستها Anthropic تدقيقًا متزايدًا بعد حوادث أخفقت فيها بعض ضوابط السلامة، أو أظهرت خلالها أنظمة تجريبية سلوكًا غير متوقع.
12 إطلاقًا لنماذج متقدمة
وقال روبنسون، الذي ذكر أنه أمضى 3 أعوام ونصف العام في أوبن إيه آي، إنه أسهم في إعداد إطار الجاهزية الخاص بالشركة، وأشرف على تقارير السلامة المصاحبة لإطلاق 12 نموذجًا من النماذج المتقدمة.
وكتب روبنسون: «بينما تندفع الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري».
أوبن إيه آي: نوقف التدريب عندما نحتاج إلى التباطؤ
في المقابل، قالت متحدثة باسم أوبن إيه آي في بيان إن الشركة تتخذ إجراءات لضمان عدم تجاوز قدرات نماذجها مستوى يمكنها التعامل معه وإدارته بأمان.
وأضافت: «نتأكد من أن نماذجنا لا تصبح أكثر قدرة مما يمكننا إدارته وتأمينه بأمان، ونوقف التدريب أو نؤجل إطلاق النماذج عندما نحتاج إلى التباطؤ».
وحذر روبنسون أيضًا من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمجال المواءمة (Alignment)، وهو المجال الذي يركز على ضمان تصرف أنظمة الذكاء الاصطناعي بما يتوافق مع أهداف وقيم البشر.
(رويترز)
