تراجعات إنسانية عن السياسة التي “خربت” عمل الباحثين

قالت الشركة إن شركة Anthropic تتراجع عن السياسة التي أعاقت الباحثين بشكل سري باستخدام برنامج Claude Fable 5 LLM الجديد الخاص بها لإنشاء نماذج ذكاء اصطناعي منافسة سلكي. وقالت الشركة في بيان: “إننا نغير ضمانات Fable 5 لتطوير LLM الحدودي لجعلها مرئية”. “لقد قمنا بمقايضة خاطئة ونعتذر عن عدم تحقيق التوازن الصحيح.”

عندما أصدرت شركة Anthropic لعبة Claude Fable 5، وهي نموذج جديد يعتمد على نظام Mythos القوي، لاحظ الباحثون شيئًا غريبًا. ووجدوا أن Fable 5 سيعيد توجيه الطلبات بهدوء إلى نموذج أقل عندما يُطلب منه تنفيذ إجراءات معينة. علاوة على ذلك، لم يتم الكشف عن هذا القيد في وثائق النموذج.

كان النموذج الجديد إما يرفض أو يقلل من الاستجابات لمهام مثل تدريب حاملي شهادات الماجستير المتنافسين، وتصحيح أخطاء كود الذكاء الاصطناعي، وتحسين البنية العصبية. ولم يكن الباحثون منزعجين من هذا التدهور فحسب، بل أيضًا من افتقار الأنثروبيك للشفافية بشأن هذا الموضوع. لقد كانوا أيضًا قلقين، بالطبع، لأنهم أحرقوا الرموز والأموال لنموذج لم يفعل ما توقعوه.

لقد صورت شركة Anthropic نفسها على أنها بديل أكثر أخلاقية وملاءمة للباحثين لـ OpenAI، لذا فإن تصرفاتها مع Fable 5 خلقت رد فعل عنيفًا سريعًا. قال زميل البحث ومؤلف Substack Dean W. Ball on X: “إن الأداء المهين في أبحاث تعلم الآلة * دون إخبار المستخدم * يعد أمرًا عدائيًا ومظهرًا فظيعًا بشكل صادم”.

لا تقوم Anthropic بعكس سياسة الحماية الخاصة بها في Fable 5، بل تجعل القيود مرئية للمستخدمين. “إذا اشتبهت الشركة في أن أحد المستخدمين يحاول استخدام كلود لبناء ذكاء اصطناعي عالي القدرة، فسوف تنبههم إلى أنها إما ترفض الطلب، أو تعيد توجيه المستخدم إلى نموذج أقل قدرة.” سلكي كتب.