ورد أن تقريرًا عن فوائد الذكاء الاصطناعي كان مليئًا بهلوسة الذكاء الاصطناعي

في أكتوبر من العام الماضي، نشرت شركة KPMG تقريرًا بعنوان الخبرة الإجمالية: إعادة تعريف التميز في عصر الذكاء الاصطناعي الوكيلوالتي كانت تدور حول كيفية استخدام الشركات للذكاء الاصطناعي لتلبية احتياجات العملاء. تعد شركة KPMG إحدى شركات الخدمات المهنية والمحاسبة “الأربعة الكبار” في العالم، إلى جانب شركات Deloitte وPricewaterhouseCoopers وErnst & Young. ومع ذلك، فمن الواضح أن هذا التقرير كان مليئًا بهلوسة الذكاء الاصطناعي وتضمن أمثلة على الذكاء الاصطناعي الوكيل الذي إما لم يكن موجودًا أو لم يكن لديه القدرات التي ذكرتها شركة KPMG في الورقة. وجد المحققون في شركة GPTZero، الشركة المصنعة لأداة الكشف عن محتوى الذكاء الاصطناعي، معلومات غير دقيقة وحواشي سفلية مزيفة في جميع أنحاء التقرير، والتي تم التحقق منها أيضًا بواسطة فاينانشيال تايمز.

وفي تقريرها عن التحقيق، قالت GPTZero أن خمسة استشهادات فقط من أصل 45 في الورقة تشير بدقة إلى مصادر حقيقية. قام ما مجموعه 28 استشهادًا بإعادة صياغة العناوين أو إضافة مكونات مزيفة إلى مصادر حقيقية، في حين تمت صياغة 12 استشهادًا بشكل غامض للغاية بحيث لا يمكن تحديد ما إذا كانت موجودة بالفعل. أطلق GPTZero على إنشاء مراجع مزيفة بواسطة نماذج الذكاء الاصطناعي اسم “الاقتباس الجذاب”.

بالإضافة إلى الاستشهادات المزيفة أو غير الدقيقة، وجد المحققون أيضًا أن ما يقرب من نصف الادعاءات الواردة في الورقة كانت مزيفة أو منسوبة بشكل خاطئ. وكتبت GPTZero أن هذه “من المحتمل أن تكون نتيجة لأداة بحث الذكاء الاصطناعي المفرطة في الامتثال لطلب العثور على أمثلة لـ “الذكاء الاصطناعي الوكيل” في البرية”. في أحد الأمثلة، ادعت شركة KPMG أن طيران الإمارات أطلقت روبوت دردشة متنقل يسمى سارة يمكنه التحدث مع الركاب وتغيير رحلاتهم نيابةً عنهم. كانت سارة عبارة عن مساعد متنقل تم إطلاقه في عام 2023 وليس برنامج دردشة آلي يعمل بالذكاء الاصطناعي، كما أنها لم تكن تتمتع بالقدرة على تغيير الحجوزات للركاب.

زعمت شركة KPMG أيضًا أن بنك الاستثمار السويسري متعدد الجنسيات UBS قام بدمج الذكاء الاصطناعي الوكيل عبر “استشارات الاستثمار وإدارة المخاطر ومراقبة الامتثال”. وقال البنك ل مرات أن المعلومات كانت “غير صحيحة من الناحية الواقعية”. وفي مثال آخر، قالت KMPG أن السكك الحديدية الفيدرالية السويسرية (SBB) لديها وكلاء ذكاء اصطناعي يمكنهم مساعدة الركاب في تخطيط رحلاتهم وحجزها وتحسينها بناءً على التفضيلات والظروف في الوقت الفعلي وتأثير الكربون. وقال متحدث باسم SBB إن ذلك “ليس دقيقًا”.

عادةً ما يتم الاستشهاد بالأبحاث التي تقدمها شركات مثل KPMG في الأوراق البحثية والمقالات الأخرى، نظرًا لأنها تعتبر مصادر موثوقة للغاية. وأوضح الرئيس التنفيذي لشركة GPTZero، إدوارد تيان، أن الأوراق البحثية المليئة بالأخطاء التي نشرتها الشركات الأربع الكبرى يمكن أن “تسمم بئر المعلومات” ويمكن أن تؤدي إلى هلوسة الذكاء الاصطناعي غير المباشرة. وقال متحدث باسم شركة KPMG لـ مرات أن الشركة “تأخذ دقة وسلامة المحتوى المنشور على محمل الجد”. قامت شركة KPMG منذ ذلك الحين بسحب الورقة وتقوم الآن “بمراجعة الظروف المحيطة بنشرها”.