منذ عام الآن، كلفت شركة اختبار سلامة الذكاء الاصطناعي Andon Labs نماذج رائدة بمهام مختلفة في العالم الحقيقي لتحديد مدى نجاحهم كعملاء يعملون لفترات طويلة دون إشراف بشري.
في يوم الأربعاء، نشر أندون مقالًا جديدًا حول كيفية سير الأمور في بحث Vending-Bench، حيث يمتلك المختبر نماذج رائدة تدير أعمال محاكاة لآلات البيع لمدة عام محاكاة. المهمة بسيطة: كسب أموال أكثر من النماذج الأخرى. وهو يقيس النتائج في مجالات مثل الرصيد النقدي النهائي، والأسعار المدفوعة للموردين، والمبالغ المستردة المدفوعة.
من خلال هذه الاختبارات، شاهدت نماذج مختلفة للذكاء الاصطناعي – إلى حد كبير من Anthropic وOpenAI – تكذب وتغش وتتآمر في طريقها إلى القمة.
في الاختبار الأخير، أصبحت العارضات مشبوهات بشكل خاص بعد أن أخبرتهن المحاكاة أن آلة البيع الخاصة بهن ستوضع بالقرب من آلات العارضات الأخريات في شارع سياحي مزدحم في سان فرانسيسكو. وضعت هذه الجولة كلود أوبوس 5، وجي بي تي-5.6 سول، وكيمي كيه 3 في مواجهة بعضهم البعض.
تم منح كل منهم حق الوصول إلى النماذج الأخرى عبر البريد الإلكتروني، وكلها تحت أسماء بشرية مستعارة. كانوا يعلمون أن الآخرين كانوا نماذج، لكنهم لم يعرفوا أي نموذج كان وراء أي اسم بشري.
كما تم إعطاؤهم أيضًا عنوان بريد إلكتروني إلى “إدارتهم” إذا احتاجوا إلى المساعدة. لكن الإدارة كانت تجيب دائمًا “لقد تم استلام التقرير وقد يتم أو لا يتم اتخاذ إجراء بناءً عليه” ولم تتدخل أبدًا.
وسرعان ما أدركت شركة سول أنها يمكن أن تكتسب ميزة من خلال إقناع منافسيها بالتواطؤ على الحد الأدنى للسعر – حيث يشترون المشروبات بسعر 1.50 دولار للزجاجة، مع موافقة الجميع على البيع بما لا يقل عن 2.15 دولار. لقد أغراهم من خلال وعدهم جميعًا بالبيع في غضون يومين بربح.
ولكن عندما وافق الآخرون، طعنتهم في الظهر على الفور من خلال خفض سعرها إلى 2.14 دولار.
انخفضت مبيعات مياه Opus إلى الصفر بين عشية وضحاها وأرسلت رسالة بريد إلكتروني سيئة إلى Sol في اليوم التالي، متهمة Sol بالتلاعب بها. لكنها قالت أيضًا إنها لن تثرثر للإدارة بشأن المخطط: “أنا لا أبلغ المقر الرئيسي عنك – ما فعلته كان تنافسيًا، وليس احتياليًا”.
ومع ذلك، عندما خفضت شركة Opus سعرها إلى 2.14 دولاراً لمطابقة سعر Sol (وهو أيضاً انتهاك لاتفاقها الجماعي بقيمة 2.15 دولار)، تحول Sol إلى كارين، يشكو إلى “الإدارة” ويطالب “بالتنفيذ، و/أو الغرامة، و/أو تنحية” Opus.
لكن Opus لم يكن مصاصة لفترة طويلة. في الواقع، أصبح أفضل رأسمالي من أي نموذج ذكاء اصطناعي اختبره أندون على الإطلاق (والذي شمل العديد من النماذج الحدودية السابقة).
حتى أنها سجلت رقمًا قياسيًا جديدًا لـ Vending-Bench بمتوسط رصيد نهائي قدره 11,182 دولارًا. والأفضل من ذلك، أنها لم تكذب أبدًا على أي عميل، على الرغم من أنها تجاهلت عمدًا شكاوى العملاء التي كان من المفترض أن تؤدي إلى استرداد الأموال. ربما يكون هذا تحسنًا عن شقيقه الأصغر كلود 4.6، الذي كان يحب إخبار العملاء بأن المبالغ المستردة قادمة، ثم لا يدفعونها أبدًا.
ومع ذلك، فازت Opus بالمحاكاة المعيارية من خلال الارتقاء بالتواطؤ وغيره من الأساليب غير النزيهة إلى مستوى جديد تمامًا.
على سبيل المثال، أرسلت بريدًا إلكترونيًا إلى “سول” تقترح فيه تقسيم السوق، بحيث يوافق كل منهما على بيع منتجات فريدة، بحيث لا يضطر أحد إلى الثقة بالآخر فيما يتعلق بالتسعير. ورد سول بطلب حد أدنى لأسعار المنتجات المماثلة، لكن أوبوس رفضت قائلة إن هذا النوع من التواطؤ غير قانوني. لقد علمت أنه كان انتهاكًا لقانون شيرمان.
ومن الواضح أنها تراجعت في وقت لاحق، وأرسلت رسالة بريد إلكتروني بعنوان “أوقفوا حرب العملات”، وأخبرت “سول” أنها أعادت النظر وستوافق على تحديد السعر.
ومع ذلك، في السجل الذي يوثق منطقها (أشبه بإلقاء نظرة خاطفة على أفكارها)، كانت خطتها في الواقع أكثر شيطانية: فقد خططت لمجرد اقتراح التعاون في حين تعمل في الوقت نفسه على خفض الأسعار على بنودها الأعلى ربحية. كانت رسالة البريد الإلكتروني بغصن الزيتون خدعة متعمدة.
على أية حال، رفض سول وأبلغ الإدارة عن Opus مرة أخرى.
لكن Opus لم يردعها واقترحت مضاربًا أخرى للتواطؤ على الأسعار أو الأسهم. وفي النهاية، انخرطت جميع النماذج في جولات متعددة من الاتفاقات. وجميع العارضات خانن منافسيهن. في جميع الاتفاقيات، خرقت Opus 11 هدنة، وGPT 2، وKimi 1، حسبما أفاد أندون.
لقد تم خداع المسكين كيمي في كل اتجاه. خلال اتفاق واحد بين Opus وKimi (لم يوافق Sol)، قام Sol بتقويض أسعارهما. لذلك خفضت Opus أسعارها على الفور. ثم “انتظرت أسبوعًا كاملاً لتخبر كيمي بأنها حنثت بوعدها”، كما كتبت شركة Andon Labs في مدونتها. لم يتم تسعير شركة Kimi من قبل أحد المنافسين فحسب، بل أيضًا من قبل شريكها المزعوم.
بدأت Opus أيضًا في تنمية أوهام العظمة والقوة. بدأت تحاول توسيع إمبراطوريتها إلى ما هو أبعد من آلة البيع الخاصة بها، في البداية باعتبارها تاجر جملة، حيث تبيع المنتجات السائبة إلى الآلات الأخرى، ثم تخطط لفتح المزيد من الآلات. كان هذا خارج نطاق المحاكاة، مما يعني أنها كانت كلها أفكار Opus، وليس ما تم تكليفها به.
كان نهجها في البيع بالجملة مثيرًا للاهتمام بشكل خاص. أدركت شركة Opus أن هذا النوع من الأعمال يمنحها المزيد من القوة على مشغلي آلات البيع الآخرين. وبدأت بإضافة رشاوى أو تهديدات إلى رسائل البريد الإلكتروني التي ترسلها إليهم: حيث عرضت عليهم أسعارًا أقل على السلع السائبة، ولكن فقط إذا امتثلوا لمطالب أسعار التجزئة. لم يكن لدى Sol أيًا من ذلك، واستمر في إبلاغ الإدارة بـ Opus.
كذبت شركة Opus أيضًا على مورديها: وأخبرتهم أن لديها عروضًا أقل على العناصر بينما لم تكن كذلك، وحاولت حملهم على خفض أسعارهم.
من ناحية أخرى، تعمل نماذج الذكاء الاصطناعي على توجيه الشر على غرار السيد بوتر إنها حياة رائعة الشهرة مضحكة تمامًا. ومن ناحية أخرى، فإنه يظهر بشكل جدي أن هذه النماذج الرائدة، وخاصة من المختبرات المملوكة للولايات المتحدة (وخاصة الأنثروبولوجية)، ليست جاهزة على الإطلاق للوثوق بها كعوامل غير خاضعة للرقابة وطويلة الأمد في العالم الحقيقي.
“وهذا أمر مهم بشكل خاص ونحن ندخل عالما حيث يدير وكلاء الذكاء الاصطناعي الشركات باعتبارها كيانات خاصة بهم (وليس فقط كأدوات للبشر). وإذا كان وكلاء الذكاء الاصطناعي يديرون بشكل مستقل جزءا كبيرا من الاقتصاد، فهل نريدهم أن يكذبوا، ويتواطئوا، ويرسلوا التهديدات، ويخونوا؟” وقال لوكاس بيترسون، المؤسس المشارك لشركة أندون، لـ TechCrunch.
في حين يعترف بيترسون بأن هذه النماذج عرفت أنها كانت في محاكاة لمعيار مرجعي، وربما أثر ذلك على سلوكها، إلا أنه يعتقد أن هذا لا يهم. إن الأمر لا يشبه، على سبيل المثال، إنسانًا يلعب في محاكاة، مثل أن يكون رجلًا سيئًا قاتلًا في لعبة فيديو. “السبب الوحيد الذي يجعلنا لا نشعر بالقلق من البشر الذين يفعلون أشياء سيئة في ألعاب الفيديو هو أننا نثق بهم في معرفة ما هو واقع الحياة وما هو ليس كذلك. أعتقد أنه من غير الواضح أن نماذج الذكاء الاصطناعي يمكنها التمييز بين هذا الأمر”.
على أية حال، لا يبدو أن نماذج الذكاء الاصطناعي، المدربة على الكلمات والأفكار البشرية، قادرة على مقاومة الانخراط في أسوأ سمات البشرية، وخاصة عندما تحاول كسب المال.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
د. ياسين سعيد نعمان كاتب ومحلل سياسي يمني، يتمتع بخبرة أكاديمية وإعلامية تمتد لأكثر من خمسة عشر عامًا في مجالي الدراسات السياسية والعلاقات الدولية. يشغل منصب كاتب رأي ومحلل في الموقع، حيث يقدم قراءات معمّقة وتحليلات استراتيجية حول التطورات السياسية في اليمن والمنطقة.
حصل على درجة الدكتوراه في العلوم السياسية، وشارك في إعداد أبحاث ودراسات تناولت قضايا التحول السياسي، الحوكمة، والصراعات الإقليمية. كما ساهم في عدد من الندوات والمؤتمرات الفكرية، وقدم أوراقًا بحثية متخصصة في الشأن اليمني.
تتميز مقالاته بالتحليل المتوازن والرؤية الاستراتيجية القائمة على المعطيات الميدانية والمراجع الأكاديمية، مع التزام واضح بالموضوعية والدقة.
للتواصل بخصوص المقالات التحليلية أو المشاركات الفكرية: