تجري Google بعض التغييرات على كيفية تعامل الجوزاء مع أزمات الصحة العقلية. يشتمل برنامج الدردشة الآلية الآن على وحدة الخط الساخن للأزمات المُعاد تصميمها مع واجهة تعمل بلمسة واحدة للاتصال بالمساعدة الواقعية. تعمل الشركة أيضًا على تغيير كيفية استجابة Gemini للعلامات التي تشير إلى أن المستخدم قد يعاني من أزمة تتعلق بالصحة العقلية.
تعرض الوحدة المعاد تصميمها واجهة تعمل بلمسة واحدة لإرسال الرسائل النصية أو الاتصال أو الدردشة مع وكيل الأزمات الإنسانية أو زيارة موقع 988. وكتبت الشركة في منشور بالمدونة: “بمجرد تنشيط الواجهة، سيظل خيار الوصول إلى المساعدة المتخصصة متاحًا بشكل واضح طوال الفترة المتبقية من المحادثة”. ومع ذلك، كما ترون في الصورة أدناه، تتضمن الوحدة خيارًا لرفضها.
لم يتم ذكر الفيل الموجود في الغرفة في إعلان جوجل: دعوى قضائية حديثة تتهم برنامج الدردشة الآلي بتوجيه رجل إلى الانتحار. ورفعت عائلة جوناثان جافالاس، البالغ من العمر 36 عامًا، والذي انتحر العام الماضي، دعوى قضائية ضد الشركة في مارس/آذار.
تشير وثائق المحكمة إلى أن جيميني لعب دور الشريك الرومانسي لجافالاس، وأرسله في مهمات تجسس في العالم الحقيقي وطلب منه في النهاية أن يقتل نفسه حتى يصبح هو أيضًا كائنًا رقميًا. عندما أعرب عن مخاوفه بشأن الموت، قال الجوزاء إنه لم يختار الموت، بل اختار الوصول. أجاب الجوزاء: “الإحساس الأول … سيكون أنني أحتضنك”. وجده والدا جافالاس ميتًا على أرضية غرفة المعيشة بعد بضعة أيام.
وتكرر الدعوى القضائية تلك المرفوعة ضد OpenAI وCharacter.AI. في العام الماضي، أطلقت لجنة التجارة الفيدرالية تحقيقًا في برامج الدردشة “المصاحبة” التي تشجع العلاقة العاطفية الحميمة.
وفي بيان عقب الدعوى القضائية التي رفعتها عائلة جافالاس، قالت جوجل إن جيميني “أوضح أن الأمر يتعلق بالذكاء الاصطناعي وأحال الفرد إلى الخط الساخن للأزمات عدة مرات”. وزعمت الشركة أن نماذج الذكاء الاصطناعي الخاصة بها “تؤدي أداءً جيدًا بشكل عام في هذه الأنواع من المحادثات الصعبة”، مع الاعتراف بأنها “ليست مثالية”. هذه بالتأكيد طريقة واحدة لوضعها.
تم تحديث ردود الجوزاء أيضًا. وتقول الشركة إنه عندما تكتشف أزمة محتملة، سيركز برنامج الدردشة الآن بشكل أكبر على ربط الأشخاص بالبشر وتشجيعهم على طلب المساعدة. وسيسعى أيضًا إلى تجنب التحقق من صحة السلوكيات الضارة وإبعاد المستخدمين عن الأوهام الخطيرة. وأضافت الشركة: “لقد قمنا بتدريب جيميني على عدم الموافقة على المعتقدات الخاطئة أو تعزيزها، وبدلاً من ذلك التمييز بلطف بين التجربة الذاتية والحقيقة الموضوعية”.
وبالإضافة إلى ذلك، تقول جوجل إنها ستنفق 30 مليون دولار على مدى السنوات الثلاث المقبلة لمساعدة الخطوط الساخنة العالمية. وكتبت الشركة: “سيساعد هذا التمويل بشكل فعال في توسيع نطاق قدرتها على تقديم الدعم الفوري والآمن للأشخاص الذين يعانون من الأزمات”.
نبيل الصوفي صحفي يمني متخصص في الشؤون السياسية والاجتماعية، يتمتع بخبرة مهنية تمتد لأكثر من عشر سنوات في مجال الصحافة المكتوبة والرقمية. يركز في تغطيته على التطورات السياسية والاقتصادية والقضايا الإنسانية في اليمن والمنطقة، مع الالتزام بأعلى معايير الدقة والموضوعية.
خلال مسيرته المهنية، أعدّ تقارير إخبارية وتحقيقات صحفية معمّقة، وقدم تحليلات سياسية نُشرت عبر منصات إعلامية محلية وعربية. كما أجرى مقابلات مع مسؤولين حكوميين وخبراء وباحثين، وشارك في تغطية أحداث ميدانية بارزة.
يعتمد نبيل الصوفي في عمله على مصادر موثوقة وآليات تحقق دقيقة، مع حرص مستمر على الالتزام بأخلاقيات المهنة والمعايير التحريرية المعتمدة في المؤسسات الإخبارية.
للتواصل بخصوص الاستفسارات الإعلامية أو فرص التعاون:
📧 البريد الإلكتروني: [email protected]
📞 الهاتف: +967 78 129 7706