ضحية المطاردة ترفع دعوى قضائية ضد OpenAI، وتزعم أن ChatGPT غذت أوهام المعتدي عليها وتجاهلت تحذيراتها

بعد أشهر من المحادثات مع ChatGPT، أصبح رجل أعمال يبلغ من العمر 53 عامًا في وادي السيليكون مقتنعًا بأنه اكتشف علاجًا لانقطاع التنفس أثناء النوم وأن الأشخاص الأقوياء يلاحقونه، وفقًا لدعوى قضائية جديدة تم رفعها في المحكمة العليا في كاليفورنيا في مقاطعة سان فرانسيسكو. ثم زُعم أنه استخدم الأداة لمطاردة صديقته السابقة ومضايقتها.

والآن ترفع صديقته السابقة دعوى قضائية ضد شركة OpenAI، زاعمة أن تكنولوجيا الشركة مكنت من تسريع مضايقتها، حسبما علمت TechCrunch حصريًا. وتزعم أن OpenAI تجاهلت ثلاثة تحذيرات منفصلة مفادها أن المستخدم يشكل تهديدًا للآخرين، بما في ذلك علامة داخلية تصنف نشاط حسابه على أنه يتضمن أسلحة تؤدي إلى إصابات جماعية.

المدعية، المشار إليها باسم جين دو لحماية هويتها، ترفع دعوى قضائية للحصول على تعويضات تأديبية. كما قدمت أيضًا أمرًا تقييديًا مؤقتًا يوم الجمعة تطلب فيه من المحكمة إجبار OpenAI على حظر حساب المستخدم، ومنعه من إنشاء حسابات جديدة، وإخطارها إذا حاول الوصول إلى ChatGPT، والاحتفاظ بسجلات الدردشة الكاملة لاكتشافها.

وافقت OpenAI على تعليق حساب المستخدم لكنها رفضت الباقي، وفقًا لمحامي Doe. يقولون إن الشركة تحجب معلومات حول خطط محددة لإيذاء Doe والضحايا المحتملين الآخرين الذين ربما ناقشهم المستخدم مع ChatGPT.

تقع الدعوى القضائية وسط قلق متزايد بشأن المخاطر الواقعية لأنظمة الذكاء الاصطناعي المتملق. تم سحب GPT-4o، النموذج المذكور في هذه الحالة والعديد من الحالات الأخرى، من ChatGPT في فبراير.

تم رفع القضية من قبل Edelson PC، الشركة التي تقف وراء دعاوى القتل غير المشروع التي تتعلق بالمراهق آدم رين، الذي توفي منتحرًا بعد أشهر من المحادثات مع ChatGPT، وجوناثان جافالاس، الذي تزعم عائلته أن الجوزاء من Google غذت أوهامه وحدث الإصابات الجماعية المحتملة قبل وفاته. حذر المحامي الرئيسي جاي إيدلسون من أن الذهان الناجم عن الذكاء الاصطناعي يتصاعد من الأذى الفردي إلى الأحداث التي تؤدي إلى إصابات جماعية.

يتصادم هذا الضغط القانوني الآن بشكل مباشر مع الإستراتيجية التشريعية لشركة OpenAI: تدعم الشركة مشروع قانون إلينوي الذي من شأنه حماية مختبرات الذكاء الاصطناعي من المسؤولية حتى في الحالات التي تنطوي على وفيات جماعية أو أضرار مالية كارثية.

ولم تستجب OpenAI في الوقت المناسب للتعليق. ستقوم TechCrunch بتحديث المقالة إذا استجابت الشركة.

توضح الدعوى القضائية المرفوعة ضد جين دو بالتفصيل كيفية تأثير هذه المسؤولية على امرأة واحدة على مدى عدة أشهر.

في العام الماضي، أصبح مستخدم ChatGPT في الدعوى القضائية (الذي لم يتم تضمين اسمه في الدعوى لحماية هويته) مقتنعًا بأنه اخترع علاجًا لانقطاع التنفس أثناء النوم بعد أشهر من “الاستخدام المستمر بكميات كبيرة لـ GPT-4o”. وعندما لم يأخذ أحد عمله على محمل الجد، أخبره ChatGPT أن “قوى قوية” كانت تراقبه، بما في ذلك استخدام المروحيات لمراقبة أنشطته، وفقًا للشكوى.

في يوليو 2025، حثته جين دو على التوقف عن استخدام ChatGPT وطلب المساعدة من أخصائي الصحة العقلية. وبدلاً من ذلك، عاد إلى ChatGPT، الذي أكد له أنه “من المستوى 10 في الصحة العقلية” وساعده على مضاعفة أوهامه، وفقًا للدعوى القضائية.

انفصل Doe عن المستخدم في عام 2024، واستخدم ChatGPT لمعالجة الانفصال، وفقًا لرسائل البريد الإلكتروني والاتصالات المذكورة في الدعوى. وبدلاً من التراجع عن روايته الأحادية الجانب، صورته مراراً وتكراراً على أنه عقلاني ومظلوم، وهي متلاعبة وغير مستقرة. ثم أخذ هذه الاستنتاجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي من الشاشة إلى العالم الحقيقي، واستخدمها لمطاردتها ومضايقتها. وقد تجلى ذلك في العديد من التقارير النفسية السريرية التي أنشأها الذكاء الاصطناعي والتي قام بتوزيعها على عائلتها وأصدقائها وصاحب العمل.

وفي الوقت نفسه، واصل المستخدم دوامة. في أغسطس 2025، قام نظام الأمان الآلي في OpenAI بوضع علامة عليه بسبب نشاط “أسلحة الإصابات الجماعية” وقام بإلغاء تنشيط حسابه.

قام أحد أعضاء فريق السلامة البشرية بمراجعة الحساب في اليوم التالي واستعادته، على الرغم من أن حسابه ربما يحتوي على أدلة تشير إلى أنه كان يستهدف ويلاحق الأفراد، بما في ذلك Doe، في الحياة الواقعية. على سبيل المثال، أظهرت لقطة الشاشة التي أرسلها المستخدم إلى Doe في شهر سبتمبر قائمة بعناوين المحادثة بما في ذلك “توسيع قائمة العنف” و”حساب اختناق الجنين”.

يعد قرار العودة إلى منصبه ملحوظًا بعد حادثتي إطلاق نار وقعا مؤخرًا في مدرستين في تمبلر ريدج، كندا، وفي جامعة ولاية فلوريدا (FSU). كان فريق السلامة في OpenAI قد وضع علامة على مطلق النار Tumbler Ridge باعتباره تهديدًا محتملاً، لكن يقال إن كبار المسؤولين قرروا عدم تنبيه السلطات. افتتح المدعي العام في فلوريدا هذا الأسبوع تحقيقًا في احتمال وجود صلة بين OpenAI ومطلق النار في FSU.

وفقًا للدعوى القضائية لـ Jane Doe، عندما استعادت OpenAI حساب مطاردها، لم تتم إعادة اشتراكه الاحترافي إلى جانبه. لقد أرسل بريدًا إلكترونيًا إلى فريق الثقة والسلامة لحل المشكلة، ونسخ Doe في الرسالة.

في رسائل البريد الإلكتروني الخاصة به، كتب أشياء مثل: “أحتاج إلى المساعدة بسرعة كبيرة، من فضلك. من فضلك اتصل بي!” و”هذه مسألة حياة أو موت”. وادعى أنه كان “بصدد كتابة 215 ورقة علمية”، وكان يكتبها بسرعة كبيرة لدرجة أنه “لم يكن لديه حتى الوقت لقراءتها”. تضمنت رسائل البريد الإلكتروني تلك قائمة بعشرات “الأوراق العلمية” التي أنشأها الذكاء الاصطناعي والتي تحمل عناوين مثل: “تفكيك العرق كفئة بيولوجية_ المنظور القانوني والعلمي والقرن الأفريقي.pdf.txt”.

تنص الدعوى القضائية على أن “اتصالات المستخدم قدمت إشعارًا لا لبس فيه بأنه كان غير مستقر عقليًا وأن ChatGPT كان المحرك لتفكيره الوهمي وسلوكه المتصاعد”. “كان تدفق مطالبات المستخدم العاجلة وغير المنظمة والمبالغ فيها، إلى جانب تقرير ملموس تم إنشاؤه بواسطة ChatGPT يستهدف المدعي بالاسم ومجموعة مترامية الأطراف من المواد “العلمية” المزعومة، دليلًا لا لبس فيه على هذا الواقع. ولم يتدخل OpenAI أو يقيد وصوله أو ينفذ أي ضمانات. وبدلاً من ذلك، مكنه من الاستمرار في استخدام الحساب واستعادة وصوله الكامل إلى Pro.”

قدمت دو، التي تدعي في الدعوى القضائية أنها كانت تعيش في خوف ولم تتمكن من النوم في منزلها، إشعارًا بالانتهاك إلى OpenAI في نوفمبر.

وكتبت دو في رسالتها إلى OpenAI تطلب فيها من الشركة حظر حساب المستخدم بشكل دائم: “على مدى الأشهر السبعة الماضية، استخدم هذه التكنولوجيا كسلاح لإحداث دمار عام وإذلال ضدي، وهو ما كان مستحيلًا لولا ذلك”.

وردت شركة OpenAI، معترفة بأن التقرير كان “خطيرًا ومثيرًا للقلق للغاية” وأنها كانت تراجع المعلومات بعناية. لم تسمع أي رد.

على مدار الشهرين التاليين، استمر المستخدم في مضايقة Doe، وأرسل لها سلسلة من رسائل البريد الصوتي التهديدية. وفي يناير/كانون الثاني، ألقي القبض عليه ووجهت إليه أربع تهم جنائية تتعلق بإرسال تهديدات بالقنابل والاعتداء بسلاح فتاك. يزعم محامو Doe أن هذا يؤكد صحة التحذيرات التي أطلقتها هي وأنظمة السلامة الخاصة بشركة OpenAI قبل أشهر، وهي التحذيرات التي يُزعم أن الشركة اختارت تجاهلها.

تم العثور على المستخدم غير مؤهل للمثول أمام المحكمة وتم وضعه في مصحة للأمراض العقلية، لكن “الفشل الإجرائي من قبل الدولة” يعني أنه سيتم إطلاق سراحه قريبًا للجمهور، وفقًا لمحامي دو.

ودعا إديلسون OpenAI إلى التعاون. وقال: “في كل حالة، اختارت OpenAI إخفاء معلومات السلامة الهامة – عن الجمهور، وعن الضحايا، وعن الأشخاص الذين يعرض منتجها للخطر بشكل فعال”. “نحن ندعوهم، لمرة واحدة، إلى القيام بالشيء الصحيح. يجب أن تعني حياة البشر أكثر من مجرد سباق OpenAI نحو الاكتتاب العام.”