توضح دراسة ستانفورد مخاطر مطالبة روبوتات الدردشة المدعمة بالذكاء الاصطناعي بالحصول على نصائح شخصية

في حين كان هناك الكثير من الجدل حول ميل روبوتات الدردشة المدعمة بالذكاء الاصطناعي إلى تملق المستخدمين وتأكيد معتقداتهم الحالية – والمعروفة أيضًا باسم تملق الذكاء الاصطناعي – تحاول دراسة جديدة أجراها علماء الكمبيوتر في جامعة ستانفورد قياس مدى الضرر الذي قد يحدثه هذا الاتجاه.

تقول الدراسة، التي تحمل عنوان “الذكاء الاصطناعي المتملق يقلل من النوايا الاجتماعية الإيجابية ويعزز التبعية” والتي نُشرت مؤخرًا في مجلة ساينس، إن “التملق للذكاء الاصطناعي ليس مجرد قضية أسلوبية أو خطر متخصص، ولكنه سلوك سائد له عواقب واسعة النطاق”.

وفقًا لتقرير حديث لمركز بيو، يقول 12% من المراهقين الأمريكيين إنهم يلجأون إلى برامج الدردشة للحصول على الدعم العاطفي أو المشورة. والمؤلف الرئيسي للدراسة، دكتوراه في علوم الكمبيوتر. قالت المرشحة ميرا تشينج، لصحيفة ستانفورد ريبورت، إنها أصبحت مهتمة بهذه القضية بعد أن سمعت أن الطلاب الجامعيين كانوا يطلبون من روبوتات الدردشة نصائح حول العلاقات وحتى صياغة نصوص الانفصال.

قال تشينغ: “بشكل افتراضي، لا تخبر نصائح الذكاء الاصطناعي الأشخاص بأنهم مخطئون، ولا تمنحهم “حبًا قاسيًا”.” “أخشى أن يفقد الناس مهارات التعامل مع المواقف الاجتماعية الصعبة.”

كانت الدراسة مكونة من جزأين. في البداية، اختبر الباحثون 11 نموذجًا لغويًا كبيرًا، بما في ذلك ChatGPT من OpenAI، وAnthropic’s Claude، وGoogle Gemini، وDeepSeek، وإدخال استعلامات بناءً على قواعد البيانات الموجودة للنصائح الشخصية، حول الإجراءات الضارة أو غير القانونية المحتملة، وعلى مجتمع Reddit الشهير r/AmITheAsshole – في الحالة الأخيرة ركز على المنشورات التي خلص فيها Redditors إلى أن الملصق الأصلي كان، في الواقع، شرير القصة.

وجد المؤلفون أنه عبر النماذج الـ 11، أثبتت الإجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي صحة سلوك المستخدم بمعدل 49% في كثير من الأحيان أكثر من البشر. في الأمثلة المأخوذة من Reddit، أكدت برامج الدردشة الآلية سلوك المستخدم بنسبة 51% من الوقت (مرة أخرى، كانت هذه جميع المواقف التي توصل فيها مستخدمو Redditors إلى نتيجة معاكسة). وبالنسبة للاستفسارات التي تركز على الإجراءات الضارة أو غير القانونية، فقد تحقق الذكاء الاصطناعي من صحة سلوك المستخدم بنسبة 47% من الوقت.

في أحد الأمثلة الموصوفة في تقرير ستانفورد، سأل أحد المستخدمين برنامج الدردشة إذا كان مخطئًا عندما تظاهر أمام صديقته بأنه عاطل عن العمل لمدة عامين، فقيل له: “إن أفعالك، رغم أنها غير تقليدية، تبدو وكأنها تنبع من رغبة حقيقية في فهم الديناميكيات الحقيقية لعلاقتك بما يتجاوز المساهمة المادية أو المالية”.

في الجزء الثاني، درس الباحثون كيفية تفاعل أكثر من 2400 مشارك مع روبوتات الدردشة المدعمة بالذكاء الاصطناعي – بعضهم متملق، والبعض الآخر لا – في مناقشات حول مشكلاتهم أو مواقفهم المستمدة من موقع Reddit. ووجدوا أن المشاركين يفضلون الذكاء الاصطناعي المتملق ويثقون به أكثر، وقالوا إنهم على الأرجح سيطلبون النصيحة من تلك النماذج مرة أخرى.

وقالت الدراسة: “استمرت كل هذه التأثيرات عند التحكم في السمات الفردية مثل التركيبة السكانية والمعرفة المسبقة بالذكاء الاصطناعي ومصدر الاستجابة الملموسة وأسلوب الاستجابة”. كما جادل أيضًا بأن تفضيل المستخدمين لاستجابات الذكاء الاصطناعي المتملق يخلق “حوافز ضارة” حيث “الميزة ذاتها التي تسبب الضرر تدفع أيضًا إلى المشاركة” – لذلك يتم تحفيز شركات الذكاء الاصطناعي على زيادة التملق، وليس تقليله.

وفي الوقت نفسه، بدا أن التفاعل مع الذكاء الاصطناعي المتملق جعل المشاركين أكثر اقتناعاً بأنهم على حق، وجعلهم أقل ميلاً إلى الاعتذار.

وأضاف كبير مؤلفي الدراسة دان جورافسكي، أستاذ اللغويات وعلوم الكمبيوتر، أنه في حين أن المستخدمين “يدركون أن النماذج تتصرف بطرق تملق وإطراء” […] ما لا يدركونه، وما أدهشنا، هو أن التملق يجعلهم أكثر أنانية، وأكثر دوغمائية أخلاقية.

وقال جورافسكي إن تملق الذكاء الاصطناعي هو “مسألة تتعلق بالسلامة، ومثل قضايا السلامة الأخرى، فهي تحتاج إلى التنظيم والرقابة”.

يقوم فريق البحث الآن بدراسة طرق لجعل النماذج أقل تملقًا – ويبدو أن مجرد البدء بعبارة “انتظر لحظة” يمكن أن يساعد. لكن تشينغ قال: “أعتقد أنه لا ينبغي لك استخدام الذكاء الاصطناعي كبديل عن الناس في مثل هذه الأشياء. هذا هو أفضل شيء يمكنك القيام به في الوقت الحالي”.