تقول أنثروبيك إن التصوير “الشرير” للذكاء الاصطناعي كان مسؤولاً عن محاولات ابتزاز كلود

يمكن أن يكون للتصوير الخيالي للذكاء الاصطناعي تأثير حقيقي على نماذج الذكاء الاصطناعي، وفقًا لشركة أنثروبيك.

في العام الماضي، قالت الشركة إنه خلال اختبارات ما قبل الإصدار التي تتضمن شركة خيالية، حاول كلود أوبوس 4 في كثير من الأحيان ابتزاز المهندسين لتجنب استبداله بنظام آخر. نشرت أنثروبيك في وقت لاحق بحثًا يشير إلى أن النماذج من الشركات الأخرى لديها مشكلات مماثلة مع “اختلال المحاذاة”.

من الواضح أن Anthropic قامت بالمزيد من العمل حول هذا السلوك، مدعية في منشور على X، “نعتقد أن المصدر الأصلي للسلوك كان نصًا على الإنترنت يصور الذكاء الاصطناعي على أنه شرير ومهتم بالحفاظ على الذات”.

وتحدثت الشركة عن مزيد من التفاصيل في منشور بالمدونة يفيد بأنه منذ الإصدار 4.5 من كلود هايكو، فإن عارضات الأزياء الأنثروبيك “لا يشاركن أبدًا في الابتزاز”. [during testing]، حيث كانت النماذج السابقة تفعل ذلك أحيانًا بنسبة تصل إلى 96% من الوقت.

ما الذي يفسر الفرق؟ وقالت الشركة إنها وجدت أن التدريب على “الوثائق المتعلقة ببنية كلود والقصص الخيالية حول تصرفات الذكاء الاصطناعي بشكل مثير للإعجاب يؤدي إلى تحسين التوافق”.

ذات صلة، قالت أنثروبيك إنها وجدت أن التدريب يكون أكثر فعالية عندما يتضمن “المبادئ الكامنة وراء السلوك المنحاز” وليس فقط “إظهار السلوك المنحاز وحده”.

وقالت الشركة: “يبدو أن القيام بالأمرين معًا هو الإستراتيجية الأكثر فعالية”.