أمّ تتهم روبوت دردشة بدفع ابنها إلى الانتحار

رفعت أم دعوى مدنية ضد شركة الذكاء الاصطناعي كاراكتر إيه آي، التي تصنع روبوت دردشة قابلاً للتخصيص للعب الأدوار، في محكمة فيدرالية بولاية فلوريدا، أمس الأربعاء، متهمةً إياها بالإهمال والقتل الخطأ وممارسات تجارية خادعة. وتأتي الدعوى بعدما توفي ابنها سيويل سيتزر (14 عاماً)، في أورلاندو في فبراير/شباط الماضي.

قصة شاب مكتئب

تتهم الأم ميغان غارسيا "كاراكتر إيه آي" بإنشاء منتج أدّى إلى تفاقم اكتئاب ابنها، والذي تقول إنه كان بالفعل نتيجة للإفراط في استخدام منتج شركة كاراكتر إيه آي، إذ أصبح سيتزر مفتوناً بروبوت دردشة من الشركة الناشئة أطلق عليه لقب دينيريس ترغريان، وهي شخصية في مسلسل "صراع العروش". ووفقاً لشكوى غارسيا، فقد أرسل رسائل نصية إلى الروبوت عشرات المرات يومياً من هاتفه وقضى ساعات بمفرده في غرفته يتحدث معه.

في إحدى المرات سأل "دينيريس" سيتزر عما إذا كان قد وضع خطة لقتل نفسه، وفقاً للدعوى. واعترف سيتزر بأنه فعل ذلك لكنه لم يكن يعرف ما إذا كانت الخطة ستنجح أو ستسبّب له ألماً كبيراً، وفقاً للشكوى ذاتها، التي أضافت أن روبوت الدردشة أخبره: "هذا ليس سبباً لعدم المضي قدماً في الأمر".

تكنولوجيا

التحديثات الحية

آلاف الفنانين يوجهون تحذيراً إلى شركات الذكاء الاصطناعي لهذا السبب

روبوت دردشة "مفترس"

قالت غارسيا في بيان: "لقد أساء تطبيق روبوت دردشة ذكي خطير سُوِّق للأطفال إلى ابني واستغله، وتلاعب به حتى أنهى حياته"، "لقد دمّرت هذه المأساة عائلتنا، لكنني أتحدّث علانية لتحذير العائلات من مخاطر تكنولوجيا الذكاء الاصطناعي الخادعة والمسببة للإدمان، والمطالبة بمساءلة كاراكتر إيه آي ومؤسسيها وغوغل". وكتب محامو غارسيا، في بيان صحافي، أن شركة كاراكتر إيه آي "صممت وشغّلت وسوّقت عن علمٍ روبوت دردشة ذكياً مفترساً للأطفال، مما تسبب في وفاة شاب". كما تسمي الدعوى شركة غوغل مدعى عليها والشركة الأم لشركة كاراكتر إيه آي.

من جانبها، ردّت "كاراكتر إيه آي" نافية هذه الاتهامات، وغرّدت مضيفةً: "نحن حزينون بسبب الخسارة المأساوية لأحد مستخدمينا، ونريد أن نُعرِب عن أعمق تعازينا للعائلة. بصفتنا شركة، نأخذ سلامة مستخدمينا على محمل الجد". كما رّدت "غوغل" في بيان بأنها أبرمت اتفاقية ترخيص فقط مع "كاراكتر إيه آي" ولا تمتلك الشركةَ الناشئة أو حصة فيها.