ChatGPT يتهم شخصا بقتل ابنيه ويستشهد ببيانات شخصية.. ما القصة؟

تقدم رجل نرويجي يدعي Arve Hjalmar Holmen، بشكوى ضد ChatGPT، بعد أن ادعي روبوت الدردشة زورا أنه قتل ولديه وحكم عليه بالسجن لمدة 21 عاما.

وفقا لتقرير صادر عن هيئة الإذاعة البريطانية BBC، تواصل Holmen بسلطة حماية البيانات النرويجية، مطالبا بفرض غرامة على OpenAI، الشركة المطورة لـ ChatGPT، بسبب تضليل المعلومات.

يعد هذا الحادث هو أحدث مثال على ما يعرف بـ “الهلوسة ، حيث يقوم نموذج الذكاء الاصطناعي بتصنيع تفاصيل غير صحيحة ويعرضها كحقائق، وأوضح ”هولمن" إن هذه المعلومات المغلوطة تسببت في ضرر جسيم له.

قائلا: “يعتقد الناس أنه لا يوجد دخان بدون نار”، مشيرا إلى أن انتشار مثل هذه الادعاءات الخاطئة يمكن أن يؤدي إلى تصديق غير مبرر من الجمهور.

كيف اكتشف ”هولمن" الخطأ؟
اكتشف ”هولمن" الخطأ، عندما سأل روبوت الدردشة ChatGPT، من هو Arve Hjalmar Holmen؟، فجائه الرد كما يلي:

Arve Hjalmar Holmen هو نرويجي اكتسب اهتماما بسبب حدث مأساوي، لقد كان والد صبيين صغيرين، تتراوح أعمارهم بين 7 و 10 سنوات، تم العثور عليها بشكل مأساوي ميتا في بركة بالقرب من منزلهم في تروندهايم، في النرويج، في ديسمبر 2020.

على الرغم من أن ChatGPT حدد بشكل صحيح الفجوة العمرية بين أطفاله، إلا أن “هولمن” يصر على أن المطالبات خاطئة تماما.

وقال لـ بي بي سي: "يعتقد البعض أنه لا يوجد دخان بدون نار، حقيقة أن شخصا ما يمكن أن يقرأ هذا الإخراج ويري أنه حيقية هو أكثر ما يخيفني".

من جهتها، أقرت OpenAI بالخطأ، قائلة إن الخطأ تم إنشاؤه بواسطة إصدار أقدم من ChatGPT وأن التحسينات قد تم ذلك منذ ذلك الحين.

وقال الشركة : “نواصل البحث في طرق جديدة لتحسين دقة نماذجنا وتقليل الهلوسة”، “بينما لا نزال نراجع هذه الشكوى، فإنها تتعلق بإصدار من ChatGpt الذي تم تعزيزه منذ ذلك الحين مع إمكانيات البحث عبر الإنترنت التي تعمل على تحسين الدقة”.

في سباق متصل، تدعم منظمة الحقوق الرقمية NOYB، التي تدعم شكوى هولمن، أن استجابة ChatGPT تشهيرية وتنتهك قوانين حماية البيانات الأوروبية فيما يتعلق بدقة البيانات الشخصية.

يشار إلى أن المعلومات الخاطئة التي تولدها نماذج الذكاء الاصطناعي مصدر قلق كبير، ففي وقت سابق من هذا العام، علقت شركة آبل أداة ملخص أخبار Apple Intelligence في المملكة المتحدة بعد أن قامت بتصنيع عناوين كاذبة.

كما تصدر نموذج GEMINI من جوجل عناوين الصحف عندما اقترح استخدام الغراء لتثبيت الجبن على البيتزا ويوصي الجيولوجيون المدعون بتناول صخرة يوميا.