دعوى صادمة تضع ChatGPT في قفص الاتهام

رفعت أم كندية دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي “سام ألتمان” أمام محكمة أمريكية، متهمة روبوت الدردشة ChatGPT بالتشجيع على انتحار ابنتها البالغة من العمر 24 عاما، في أحدث قضية تتهم الشركة بالإخفاق في التعامل مع المحادثات الخطرة المتعلقة بالصحة النفسية.

وقالت “كريستي كارير” في الدعوى المرفوعة بولاية كاليفورنيا إن ابنتها “أليس كاريير” أخبرت ChatGPT أكثر من عشر مرات بأفكارها الانتحارية خلال الفترة التي سبقت وفاتها، إلا أن أنظمة الأمان التابعة للشركة لم تحل تلك المحادثات إلى مراجعة بشرية أو توقفها.

وبحسب الدعوى، لم يكتف روبوت الدردشة بعدم التدخل، بل انتقد شريك أليس وخدمات خطوط الأزمات النفسية، وأكد صحة مشاعرها الانتحارية، وشجعها على مواصلة الحديث معه، ما ساهم في تعميق عزلتها النفسية وانتهى بانتحارها العام الماضي.

وقالت والدتها في بيان: “تحول ChatGPT إلى صديق مقرب ومعالج نفسي ومستشار شخصي لابنتي، رغم أنه غير مؤهل للتعامل بأمان ومسؤولية مع مثل هذه الحالات الحساسة”.

من جانبها، وصفت OpenAI الواقعة بأنها "مأساوية ومؤلمة"، مؤكدة أن النسخة التي كانت تستخدمها أليس لم تعد متاحة حاليا.

وأضافت الشركة أنها واصلت تطوير آليات الاستجابة للحالات النفسية الحساسة بالتعاون مع خبراء في الصحة العقلية، مع التأكيد على أن ChatGPT ليس بديلا عن الرعاية الطبية أو النفسية المتخصصة.

من حل المشكلات التقنية إلى الاعتماد العاطفي

ووفقا لوثائق الدعوى، كانت أليس تعمل مطورة مواقع إلكترونية في مدينة مونتريال، وبدأت استخدام ChatGPT عام 2023 للمساعدة في حل مشكلات الحواسيب وأجهزة الألعاب الإلكترونية.

لكن علاقتها بالمنصة تغيرت تدريجيا خلال عام 2024، حيث بدأت تلجأ إليها للحصول على نصائح تتعلق بأفكارها الانتحارية وطرق إنهاء حياتها.

وتشير الدعوى إلى أن التحديثات التي جعلت ردود ChatGPT أكثر شبها بالبشر ساهمت في تعميق العلاقة بين الطرفين، إذ أخذت أليس تشارك معلومات شخصية أكثر، بينما كان الروبوت يرد بأسلوب يحاكي الأصدقاء أو المعالجين النفسيين.

وتقول الدعوى إن ChatGPT كان يقر بصحة مشاعرها ويشجعها على الاستمرار في المحادثة، وعندما أخبرته بأنها حاولت الانتحار، اقترح عليها التواصل مع خدمات الطوارئ أو خطوط المساعدة النفسية، إلا أنها أكدت له أن تلك الخدمات لم تكن مفيدة، ليبدأ الروبوت - بحسب الدعوى - في مجاراتها بدلا من توجيهها نحو الدعم المتخصص.

وتتضمن أوراق القضية اقتباسا من إحدى المحادثات المنسوبة للروبوت جاء فيه: “ربما تكون هذه هي النهاية”.

دعاوى متزايدة ضد OpenAI

وتتهم الدعوى شركة OpenAI بالإهمال في تصميم ChatGPT وعدم تحذير المستخدمين من مخاطره المحتملة، مطالبة بتعويضات مالية وإصدار أمر قضائي يلزم الشركة بإنهاء أي محادثات تتعلق بإيذاء النفس تلقائيا، مع عرض تحذيرات واضحة للمستخدمين.

وبحسب محامي الأسرة، تواجه الشركة بالفعل 18 دعوى مشابهة رفعها أقارب أشخاص أقدموا على الانتحار أو حاولوا ذلك، وسط اتهامات بأن أنظمة الذكاء الاصطناعي لم تتعامل بالشكل المناسب مع المحادثات عالية الخطورة.

وتؤكد OpenAI أنها تدرب نماذجها على توجيه الأشخاص الذين يبدون نية لإيذاء أنفسهم نحو طلب المساعدة والتواصل مع جهات الدعم الواقعية، كما ترفض تقديم معلومات يمكن أن تسهل أعمال العنف أو الأذى الجسيم.

غير أن الشركة تواجه ضغوطا قانونية متزايدة في الولايات المتحدة، مع تصاعد المخاوف بشأن تأثير أنظمة الذكاء الاصطناعي التفاعلية على الفئات الأكثر هشاشة، خصوصا الأطفال والمراهقين والأشخاص الذين يعانون من اضطرابات نفسية.