تمنع Anthropic وصول جميع العملاء إلى Fable 5 وMythos 5

قامت Anthroic بتعطيل وصول جميع عملائها إلى Fable 5 وMythos 5 من أجل ضمان الامتثال للأمر الذي تلقته من الحكومة يوم الجمعة 12 يونيو. ولم تتأثر جميع نماذجها الأخرى وروبوت الدردشة Claude الخاص بها. وقالت الشركة في إعلانها إن الحكومة الأمريكية تريد منها تعليق وصول جميع المواطنين الأجانب إلى نماذج الذكاء الاصطناعي التي أطلقتها حديثًا، سواء كانوا داخل الولايات المتحدة أو خارجها وحتى لو كانوا موظفين بشريين، مشيرة إلى مخاوف تتعلق بالأمن القومي.

على الرغم من أن حكومة الولايات المتحدة لم تحدد هذه المخاوف، إلا أن Anthropic تعتقد أن السبب هو أن الحكومة سمعت عن طريقة كسر حماية Fable 5. وقد أطلقت الشركة للتو نموذج Fable AI، والذي تم تصميمه لجلب العديد من قدرات Mythos للجمهور، في 9 يونيو. إذا كنت تتذكر، فإن Mythos هو نموذج الأمن السيبراني المتطور والمتوفر فقط لشركائها في Project Glasswing. قدرات Fable “تتجاوز” أي نموذج سابق أطلقته Anthropic. لقد تغلب بوكيمون فاير ريد خلال اختبارات الشركة، على سبيل المثال، في حين فشل كلود في الفوز بوكيمون ريداللعبة الأصلية التي استندت إليها.

أدرجت أنثروبيك الإجراءات التي اتخذتها للتأكد من أن Fable كانت آمنة في موقعها. وقالت إنها وضعت ضمانات قوية “لتقليل احتمالية إساءة استخدام Fable في مهام تتعلق بالأمن السيبراني”، وأضافت أن “ضماناتها قوية للغاية لدرجة أن العديد من المستخدمين اشتكوا من أنها واسعة للغاية”. وأوضحت الشركة أيضًا أن أي مزود خدمة لا يمكنه ضمان المقاومة المثالية لمحاولات كسر الحماية، وكل نموذج يكون عرضة لعمليات كسر الحماية المصممة خصيصًا له. “نحن نهدف إلى جعل عمليات الهروب من السجن إما ضيقة (في حالة عمليات كسر الحماية غير العالمية) أو مكلفة للغاية لإنتاجها (في حالة عمليات كسر الحماية الشاملة)، ودمج ذلك مع المراقبة الشاملة لاكتشاف أي هجمات ناجحة وإيقافها بسرعة،” قالت عن استراتيجيتها الدفاعية.

يبدو أن الحكومة قدمت للشركة دليلاً شفهيًا على عملية كسر حماية ضيقة وغير شاملة محتملة شاركها كيان لم يذكر اسمه مع المسؤولين. وعدت Anthropic بمشاركة المزيد من التفاصيل خلال الـ 24 ساعة القادمة، لكنها أوضحت أنها لا توافق على أن كسر الحماية المحتمل يجب أن يكون سببًا لاستدعاء النموذج التجاري.

“كما قلنا علنًا، نعتقد أن الحكومة يجب أن تتمتع بالقدرة على منع عمليات النشر غير الآمنة، كجزء من عملية قانونية شفافة وعادلة وواضحة ومرتكزة على الحقائق الفنية”، كتبت Anthropic، التي كانت صريحة بشأن تحذيراتها بشأن الحاجة إلى مزيد من الرقابة على الذكاء الاصطناعي. “هذا الإجراء لا يلتزم بهذه المبادئ.”