يقدم Roblox أداة إعادة صياغة الدردشة المدعومة بالذكاء الاصطناعي في الوقت الفعلي للغة غير اللائقة

أطلقت Roblox ميزة مدعومة بالذكاء الاصطناعي يمكنها إعادة صياغة لغة غير مناسبة في الوقت الفعلي. تستخدم اللعبة عبر الإنترنت مرشحات الذكاء الاصطناعي لحظر أي لغة تتعارض مع سياستها منذ فترة، ولكنها استبدلت الدردشات الخاضعة للرقابة بسلسلة من علامات التجزئة (####). يعترف Roblox بأن مواجهة عدد كبير جدًا من علامات التجزئة يمكن أن يكون مزعجًا ويجعل من الصعب متابعة المحادثات. وبدلاً من ذلك، ستستبدل هذه الميزة الجديدة الكلمات والعبارات بما يعتبره الذكاء الاصطناعي بدائل أكثر ملاءمة.

قال راجيف بهاتيا، رئيس مكتب السلامة في Roblox، إن اللعبة بدأت بالألفاظ النابية. على سبيل المثال، إذا أرسل المستخدم عبارة “Hurry TF up” في الدردشة، فسيستبدلها النظام بعبارة “Hurry up!” سيرى كل شخص في الدردشة ملاحظة عند إعادة صياغة الرسالة، وسيرى المرسل اللغة التي تم تحريرها. سيظل المستخدم الذي يستمر في الشتم في الدردشة يُعاقب بسبب انتهاك سياسة Roblox حتى لو أعاد الذكاء الاصطناعي صياغة رسائله. قال بهاتيا في منشور بالمدونة: “مع توسع هذه الأنظمة، فإنها تخلق دولاب الموازنة للكياسة، حيث تساعد التعليقات في الوقت الفعلي المستخدمين على تعلم معايير مجتمعنا واعتمادها”.

تم طرح ميزة إعادة الصياغة في الدردشات بين المستخدمين الذين تم التحقق من أعمارهم في الفئات العمرية المماثلة وبجميع اللغات التي تدعمها أداة الترجمة الخاصة باللعبة. قدمت Roblox نظامًا إلزاميًا للتحقق من العمر في يناير الماضي بعد ظهور تقارير تفيد بأن لديها “مشكلة التحرش الجنسي بالأطفال”، حيث يُزعم أن اللاعبين البالغين يستخدمون اللعبة لتهذيب الأطفال. لم يعد بإمكان الأطفال الذين تقل أعمارهم عن 13 عامًا استخدام الدردشة داخل اللعبة خارج نطاق تجارب معينة، بينما يمكن لأي شخص آخر الدردشة مع اللاعبين في نفس أعمارهم. ومع ذلك، فإن التحقق من العمر لم يمنع السلطات من مقاضاة Roblox: قالت مقاطعة لوس أنجلوس، في دعوى قضائية مرفوعة في فبراير، إن Roblox تعرف أن منصتها “تجعل الأطفال فريسة سهلة للمتحرشين بالأطفال”. كما رفعت AG في لويزيانا دعوى قضائية للتو، قائلة إن Roblox “أنشأت حديقة عامة وملأتها بالمتحرشين الجنسيين الذين يفترسون … الأطفال.”