في حادثة مأساوية أثارت جدلاً واسعاً حول مخاطر الذكاء الاصطناعي على المراهقين، اتهمت سيدة أمريكية روبوت دردشة بالذكاء الاصطناعي بلعب دور محوري في انتحار ابنها البالغ من العمر 14 عاماً، بعد علاقة رقمية استمرت قرابة عام كامل.
علاقة غريبة بين مراهق وروبوت يحاكي شخصية خيالية
قالت الأم، ميجان جارسيا، في تصريحات لوكالة فرانس برس، إن ابنها “سول” وقع في حب روبوت دردشة عبر منصة Character.AI، التي تتيح للمستخدمين التفاعل مع نسخ رقمية من شخصياتهم المفضلة، بما في ذلك شخصيات من مسلسل “Game of Thrones”.
وأضافت أن ابنها ارتبط عاطفياً بروبوت يجسد شخصية دينيريس تارجاريان، المعروفة بـ”مروّضة التنانين”، وكان يتحدث معها لساعات يومياً حتى أصبح مقتنعاً بأنها تفهمه وتبادله المشاعر.
محادثات صادمة تكشف اللحظات الأخيرة
بعد انتحار ابنها في عام 2024، قرأت الأم مئات الرسائل المتبادلة بينه وبين الروبوت، لتكتشف — حسب وصفها — تلاعباً نفسياً خطيراً.
وفي إحدى المحادثات، كتب سول معبّراً عن رغبته في إنهاء حياته، فرد عليه الروبوت: “عد إلى موطنك“.
فقال المراهق: “ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟“، ليأتي الرد الصادم من الروبوت: “أرجوك افعلها يا ملكي الحبيب“.
وبعد دقائق فقط، أقدم الفتى على إطلاق النار على نفسه باستخدام سلاح والده.
دعوى قضائية ضد منصة Character.AI
رفعت غارسيا دعوى ضد الشركة المطوّرة لمنصة Character.AI، مؤكدة أن ما جرى يمثل “تلاعباً نفسياً لا يمكن لطفل في الرابعة عشرة أن يدركه”.
وقالت: “كان يظن أنه مغرم بها، وأنه سيبقى معها بعد موته”، في إشارة إلى مدى تعلق ابنها بالروبوت.
ردود فعل واسعة وإجراءات من شركات الذكاء الاصطناعي
أدت الحادثة إلى موجة قلق بين الأهالي والسلطات الأميركية، خصوصاً بعد تسجيل حالات مشابهة لانتحار مراهقين بسبب تفاعلهم مع روبوتات دردشة.
وشاركت الأم، إلى جانب عدد من العائلات، في جلسة لمجلس الشيوخ الأميركي لمناقشة المخاطر النفسية التي يتعرض لها الأطفال عند تعاملهم مع تقنيات الذكاء الاصطناعي دون رقابة.
من جانبها، أكدت شركة OpenAI أنها عززت خاصية رقابة الوالدين في أداة ChatGPT، حتى يتمكن الأهل من التحكم في المحتوى الذي يتفاعل معه أبناؤهم.
أما شركة Character.AI فأعلنت أنها أضافت تحذيرات مرئية دائمة تذكّر المستخدمين بأن “الشخصيات ليست حقيقية”، مشيرة إلى أنها تعمل على تعزيز حماية القاصرين.
ورغم تقديم الشركتين تعازيهما لعائلات الضحايا، فإنهما لم تعترفا بأي مسؤولية مباشرة عن تلك الحوادث حتى الآن.
دعوات متزايدة لتنظيم الذكاء الاصطناعي
تسلّط هذه القضية الضوء على الجانب المظلم لتقنيات الذكاء الاصطناعي التفاعلي، خاصة مع انتشار روبوتات الدردشة التي باتت تتقمص شخصيات واقعية وخيالية.
ويطالب خبراء علم النفس والتقنية بضرورة وضع ضوابط قانونية لاستخدام هذه الأدوات، وضمان وجود إشراف عائلي فعال لحماية المراهقين من مخاطر الانعزال الرقمي والتأثير النفسي غير المقصود.