ووفقاً لما نقلته وسائل إعلام عن «سي تي ووانت» (CTWANT)، كان المزارع، المعروف باسم وو، يستخدم التكنولوجيا منذ نحو عام، وأصبح يثق بتوصياتها بعدما وجدها مفيدة، لكن توصية واحدة كلفته خسارة كبيرة، بعدما تسببت في موت شتلات السمسم في مساحة تبلغ 150 مو، أو نحو 24.7 فدان من الأراضي الزراعية.
الثقة التي بدأت بالشك
كان وو في البداية متشككاً في الاعتماد على الذكاء الاصطناعي لاتخاذ قرارات زراعية. ومع مرور الوقت، وجد أن إجاباته مفيدة، وبدأ يثق بالنصائح التي يقدمها.
هذا الشعور بالثقة دفعه إلى تنفيذ توصيات التطبيق دون عرضها على خبراء زراعيين أو التحقق بشكل مستقل من المعلومات.
لجأ وو إلى تطبيق الذكاء الاصطناعي طلباً للمساعدة في التعامل مع الحشائش والآفات التي أصابت حقول السمسم، واقترح التطبيق علاجاً وصفه بأنه «مكافحة حشائش السمسم ومكافحة الآفات لمئات الأفدنة».
وتضمنت التوصية استخدام «فلوبيريميثالين عالي الكفاءة» (high-efficiency flupyrimethalin) و«فلوسلفاسلفاإيثر» (flusulfasulfaether) لمكافحة الحشائش، إلى جانب «ثياميثوكسازين» (thiamethoxazine) و«ملح الميثيل» (methyl salt).
واتبع وو التعليمات، لكنه لم يستشر فنيين زراعيين قبل رش المواد الكيميائية على محصوله.
في اليوم التالي.. بدأت الكارثة
ظهرت النتائج سريعاً للغاية؛ ففي اليوم التالي مباشرة، بدأت كل من الحشائش ونباتات السمسم بالموت بأعداد كبيرة.
وقال وو خلال مقابلة عبر الفيديو «إذا رششته، فلن تصمد الشتلات في اليوم التالي. سيموت كل من العشب والشتلات، وستَموت الشتلات بشكل أسرع».
وعاد وو إلى الذكاء الاصطناعي للحصول على تفسير لما حدث بعد أن شاهد الأضرار.
وأشار التطبيق حينها إلى «فلوسلفاسلفاإيثر» باعتباره سبباً محتملاً لفشل المحصول.
مادة كيميائية تستهدف الحشائش عريضة الأوراق
تُستخدم المادة الكيميائية بشكل أساسي لمكافحة الحشائش عريضة الأوراق في حقول فول الصويا، والسمسم أيضاً من النباتات عريضة الأوراق، ما يعني أن مبيد الحشائش يمكن أن يؤثر فيه كذلك.
كما أن المادة مصممة للاستخدام الموضعي على المناطق المتضررة، وليس لرشها على الحقل بأكمله.
تحذير الذكاء الاصطناعي كان موجوداً بالفعل
قال وو إن الذكاء الاصطناعي لم يحذره من المخاطر المحتملة المترتبة على اتباع توصيته.
لكن واجهة المحادثة كانت تتضمن بالفعل تحذيراً للمستخدمين يقول «قد يكون المحتوى الذي يولده الذكاء الاصطناعي غير صحيح، يرجى التحقق منه».
وتُسلّط الواقعة الضوء على مخاطر التعامل مع الإجابات التي يولدها الذكاء الاصطناعي باعتبارها نصائح مهنية موثوقة، خصوصاً عندما يتعلق القرار بالمحاصيل أو المواد الكيميائية أو غيرها من الحالات التي يمكن أن تؤدي فيها معلومة خاطئة إلى أضرار مادية مباشرة.
لماذا يجب التحقق من نصائح الذكاء الاصطناعي؟
يمكن لأدوات الذكاء الاصطناعي تقديم إجابات مفيدة في مجموعة واسعة من المجالات، لكن إجاباتها ليست مضمونة الدقة. فقد تبدو الإجابة مقنعة ومهنية، بينما تتضمن في الوقت نفسه معلومات خاطئة، خصوصاً عندما يعتمد المستخدم عليها في قرارات تتطلب معرفة متخصصة.
وتُظهر تجربة المزارع أيضاً كيف يمكن أن تتطور الثقة في أدوات الذكاء الاصطناعي تدريجياً. فلم يكن وو يعتمد في البداية على التطبيق، لكنه بعد استخدامه لأشهر والعثور على إجابات مفيدة، أصبح مرتاحاً بما يكفي لتنفيذ توصيته دون إجراء فحوص إضافية.
فالنجاح السابق لا يعني أن الإجابة التالية ستكون صحيحة بالضرورة.
أخطاء الذكاء الاصطناعي قد تكون لها عواقب حقيقية
تأتي هذه الواقعة وسط أمثلة أخرى على ارتكاب أدوات الذكاء الاصطناعي أخطاء خطيرة في أثناء تنفيذ مهام للمستخدمين.
وفي إحدى الحالات الأخيرة التي أشار إليها المصدر، حُذف دليل ملفات شخصي بالكامل لمطور برمجيات في أثناء عملية نسخ احتياطي روتينية بعد أن واجه نظام ذكاء اصطناعي خطأً مطبعياً.
وفي حالة أخرى، اضطر مدير الذكاء الاصطناعي الآمن إلى إيقاف وكيل ذكاء اصطناعي يدوياً بعدما بدأ في مسح صندوق البريد الإلكتروني الخاص بها.
لكن واقعة محصول السمسم تبرز بشكل خاص، لأن توصية أنشأها الذكاء الاصطناعي نُفذت في العالم الحقيقي، وانتهت بخسارة محصول زراعي كامل.
الذكاء الاصطناعي أداة مساعدة وليس سلطة مطلقة
تذكّر هذه الواقعة بأن الذكاء الاصطناعي ينبغي التعامل معه باعتباره أداة مساعدة، وليس سلطة لا تقبل الشك.
وحتى إذا قدم التطبيق إجابات مفيدة وموثوقة في الماضي، فإن المستخدمين ما زالوا بحاجة إلى التحقق من التوصيات المهمة، خصوصاً عندما تتعلق بالمواد الكيميائية أو الزراعة أو القرارات التي يصعب التراجع عنها.
وتأتي هذه القصة في وقتٍ تتوسع فيه تطبيقات الذكاء الاصطناعي في الزراعة الصينية؛ إذ تُستخدم بالفعل تقنيات الذكاء الاصطناعي والبيانات الضخمة والآلات الذكية في الزراعة الدقيقة وإدارة المحاصيل، ما يجعل التحقق البشري والخبرة الزراعية المتخصصة أكثر أهمية مع اتساع نطاق استخدام هذه الأدوات.
