من الواضح أن ميزة Grok الأكثر شيوعًا هي بالضبط ما تعتقده

قامت شركة xAI منذ فترة طويلة بترويج Grok باعتباره نوعًا أكثر سباقًا من برامج الدردشة الآلية مع عدد أقل من حواجز الحماية لشركات الذكاء الاصطناعي الأخرى. لقد رأينا ذلك يحدث بطرق كارثية خلال العام الماضي، لكننا الآن نكتسب بعض المعرفة حول سبب اعتماد الشركة بشدة على هذه الإستراتيجية على الرغم من بعض كوارث العلاقات العامة الحقيقية.

اتضح أن أنشطة NSFW تمثل “أكثر من نصف” حركة مرور Grok، وفقًا لتقرير جديد في المعلومات يستشهد باثنين من الموظفين السابقين في الشركة المملوكة لشركة SpaceX. يتضمن ذلك استخدام Grok لإنشاء مواد إباحية فعلية، بالإضافة إلى “محادثات لعب الأدوار للبالغين” و”كميات ضخمة من طلبات الشبقية”.

يبدو أن مستخدمي Grok اكتشفوا أنه من الأرخص توجيه مثل هذه الطلبات من خلال نماذج الشركة المخصصة لكتابة التعليمات البرمجية لأن استخدامها أرخص. ويقول التقرير إن التحليل الداخلي وجد أن “نسبة كبيرة من الطلبات” لنموذج الترميز الخاص به كانت مخصصة “للصور الإباحية أو العارية”. كل هذا يشير إلى أن SpaceX يمكنها أن تنسب قدرًا لا بأس به من إيرادات xAI إلى المحتوى الإباحي والبالغين. على الرغم من أن دور مادة NSFW في النتيجة النهائية للشركة قد تم حذفه بطريقة ما من أوراق الاكتتاب العام الأولي للشركة، إلا أن SpaceX أخبرت المستثمرين المحتملين أن ميزات Grok الأكثر “غير الموقرة” تمثل خطرًا محتملاً. وقالت إنها خصصت 530 مليون دولار للتعامل مع التكاليف القانونية المحتملة.

ويوضح التقرير أيضًا بعض الطرق التي أدت إلى تعقيد الأمور داخل شركة الذكاء الاصطناعي. أولاً، كان على مهندسي xAI اكتشاف كيفية تمكين Grok من إجراء محادثات مثيرة مع المستخدمين مع حظر أي مطالبات قد تنحرف إلى مواد الاعتداء الجنسي على الأطفال. (من الواضح أنه لم تكن هناك “حلول سريعة” للمعضلة).

لم يكن بعض الموظفين أيضًا سعداء بتكليفهم بالعمل على “Ani”، رفيق الصورة الرمزية المستوحى من الرسوم المتحركة لـ Grok في NSFW. وبحسب ما ورد شعر آخرون “بالحرج والانزعاج” بسبب الفضيحة التي تلت ذلك بعد أن ابتكر جروك مجموعة من الصور الجنسية لأشخاص حقيقيين، بما في ذلك الأطفال. وقد وجدت الاختبارات أن X قد حد لاحقًا من القدرة على إنشاء تعديلات مفعمة بالحيوية من صور لأشخاص حقيقيين يستخدمون Grok مباشرة على النظام الأساسي، ولكن لا يزال بإمكان المشتركين المدفوعين في xAI إنشاء مثل هذه المواد.

هناك تحديات محتملة أخرى قد تنشأ من تركيز Grok على المواد ذات التصنيف R. لقد سعت شركة xAI بقوة إلى الحصول على عقود حكومية ووقعت صفقات مع العديد من الوكالات والجيش، وهي مؤسسات قد تتوقع عادةً أن يكون لديها تسامح منخفض جدًا مع أي شيء بعيد عن NSFW. ولكن في حين أن مغامرات Grok العلنية السابقة في التزييف العميق غير التوافقي وCSAM قد أدت إلى العديد من الدعاوى القضائية والتحقيقات، فإنه ليس من الواضح ما إذا كان لتلك الحوادث أي تأثير على علاقتها مع الحكومة الفيدرالية.