هذا ما توصلت إليه دراسة حديثة أجرتها كلية هارفارد للأعمال، إذ أظهرت أن الموظفين وصناع القرار يميلون إلى الاعتماد على توصيات الذكاء الاصطناعي، لكن كثيرين منهم يفضلون عدم معرفة المنطق الذي استندت إليه هذه التوصيات، خصوصاً عندما قد تكشف الأسباب عن تحيزات أخلاقية أو تضعهم في مواقف غير مريحة.
شهدت السنوات الأخيرة تصاعداً في الدعوات إلى تنظيم استخدام الذكاء الاصطناعي، إذ يفرض الاتحاد الأوروبي بموجب قانون الذكاء الاصطناعي واللائحة العامة لحماية البيانات متطلبات للإفصاح عن أسباب القرارات الخوارزمية المهمة، كما شددت السلطات الأميركية على ضرورة تقديم أسباب واضحة ودقيقة للقرارات السلبية المدعومة بالذكاء الاصطناعي، مثل رفض طلبات الائتمان.
لذلك، يرى الباحث أن المؤسسات بحاجة إلى بناء آليات رقابة داخلية، وتدريب الموظفين على التعامل النقدي مع توصيات الذكاء الاصطناعي، وخلق حوافز تشجعهم على مراجعة القرارات بدلاً من قبولها بشكل تلقائي.
تجربة تحاكي قرارات الإقراض
ورغم أن جميع المشاركين تقريباً كانوا يرغبون في معرفة تقييم المخاطر الذي قدمه الذكاء الاصطناعي، فإن أقل من نصفهم فقط أرادوا الاطلاع على الأسباب التي دفعت النظام إلى إصدار هذا التقييم.
وأظهرت النتائج أن نحو 80% من المشاركين طلبوا معرفة درجة المخاطر، في حين لم تتجاوز نسبة من أرادوا رؤية التفسير وراء هذه الدرجات 46%.
المال يقلل الرغبة في الشفافية
الدراسة كشفت أيضاً أن الحوافز المالية تلعب دوراً حاسماً، فعندما ارتبطت مكافآت المشاركين بقدرة المقترضين على سداد القروض، ارتفعت احتمالات رفضهم للاطلاع على تفسيرات الذكاء الاصطناعي بنحو 20%.
أما عندما أُبلغ المشاركون بأن التفسير قد يكشف أن العرق أو الجنس أثّرا في قرار الخوارزمية، ارتفعت معدلات تجنب التفسيرات بأكثر من 10 نقاط مئوية لتصل إلى 23%.
ويقول أليكس تشان، الأستاذ المساعد في كلية هارفارد للأعمال ومعد الدراسة، إن البشر ليسوا دائماً باحثين عقلانيين عن المعلومات، بل قد يتجنبونها عمداً إذا كانت ستجعل قراراتهم أكثر تعقيداً أو تضعهم أمام أسئلة أخلاقية محرجة.
معرفة الأسباب تغيّر القرارات
ومن اللافت أن المشاركين الذين قرروا الاطلاع على تفسيرات الذكاء الاصطناعي كانوا أكثر ميلاً لتحدي توصياته، فقد ارتفعت احتمالات تجاهل توصية النظام والموافقة على منح القرضين معاً بنحو 6 نقاط مئوية.
وهذا يشير إلى أن الشفافية لا تغيّر فقط فهم المستخدمين للقرار، بل قد تدفعهم أيضاً إلى إعادة تقييمه واتخاذ خيارات مختلفة.
ما الذي يعنيه ذلك للشركات؟
تأتي هذه النتائج في وقت تتسابق فيه الشركات لإدماج الذكاء الاصطناعي في عمليات التوظيف والإقراض والرعاية الصحية وحتى القرارات القضائية، وسط مطالب متزايدة بضمان أن تكون هذه الأنظمة عادلة وشفافة وقابلة للمساءلة.
لكن الدراسة تحذر من أن توفير التفسيرات وحده ليس كافياً، فالموظفون قد يتجاهلون هذه التفسيرات إذا تعارضت مع مصالحهم أو جعلت قراراتهم أكثر صعوبة.
لكن دراسة هارفارد تشير إلى أن المشكلة قد لا تكون في نقص الشفافية، بل في أن البشر أنفسهم قد يختارون تجاهلها.
