وقالت الشركة، الجمعة، إنها ستقيّد إتاحة المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها لتسهيل أعمال العنف، حتى عندما تبدو أسئلة المراهقين غير ضارة ولا تشير إلى وجود نية عنيفة.
وتمتد الإجراءات الجديدة إلى جميع مستخدمي تشات جي بي تي، إذ سيصبح النظام قادراً على إنهاء المحادثات تلقائياً عندما تظهر مؤشرات على انشغال المستخدم بالعنف أو التفكير في إلحاق أذى جسيم بشخص آخر. وقد تلجأ الشركة إلى تعليق الحساب مؤقتاً بعد إنهاء عدة محادثات من هذا النوع.
قيود على معلومات الهجمات السابقة
وأوضحت الشركة أن هذه القيود ستُطبق على المستخدمين من جميع الأعمار، بغض النظر عن دوافعهم لطرح الأسئلة، مع استمرار إتاحة المعلومات التي تساعد على فهم آثار تلك الحوادث على الضحايا والمجتمعات، والتعرف على مؤشرات الخطر وسبل منع العنف.
تعزيز التحقق من أعمار المستخدمين
وقالت أوبن إيه آي إنها عززت نظام التنبؤ بالعمر، الذي يستخدم مؤشرات متعددة لتقدير ما إذا كان صاحب الحساب دون 18 عاماً، بهدف نقل المستخدمين الذين يُرجح أنهم قاصرون إلى تجربة تشات جي بي تي المخصصة للمراهقين، بما تتضمنه من ضوابط إضافية.
وتعمل الشركة أيضاً على توسيع الإشعارات الموجهة إلى أولياء الأمور، بحيث يتم إخطارهم إذا عُلّق حساب ابنهم المراهق مؤقتاً بسبب تكرار المحادثات المتعلقة بالعنف.
ومن المقرر أن يبدأ طرح إجراءات الحماية الجديدة خلال الأسابيع المقبلة، على أن تواصل الشركة تطويرها وتحسينها.
ضغوط متزايدة بشأن سلامة المراهقين
وكانت أوبن إيه آي قد قالت في وقت سابق من أكتوبر إن المراهقين يقضون أقل من 15 دقيقة يومياً في المتوسط على تشات جي بي تي، وذلك في أول تقرير لها عن أنماط استخدام هذه الفئة العمرية.
وفي المقابل، أظهر تقرير أصدرته منظمة Common Sense Media غير الربحية خلال الشهر نفسه أن النسخة المخصصة للمراهقين من تشات جي بي تي لم تكن ترسل إشعارات إلى أولياء الأمور في بعض الحالات المتعلقة بمحادثات عن الانتحار وإيذاء النفس واضطرابات الأكل، أو كانت ترسلها بعد تأخر.
وأعلنت أوبن إيه آي، بالتزامن مع إجراءات الحماية الجديدة، عزمها إصدار أول تقرير عن السلامة المجتمعية في أوائل عام 2027، على أن يتناول النصف الثاني من عام 2026، مع تحديثات كل ستة أشهر.
