يعترف الأشخاص الذين يقومون بتدريب نماذج الذكاء الاصطناعي الجديدة أنهم يطلبون من روبوتات الدردشة القيام بذلك

قال العديد من المبلغين عن المخالفات إن الأشخاص الذين يتقاضون أجورهم مقابل تدريب نماذج الذكاء الاصطناعي الجديدة من خلال تزويدهم بمحادثات واختبارات عالية الجودة يغشون ويستخدمون روبوتات الدردشة مثل ChatGPT للقيام بهذه المهمة بدلاً من ذلك. عالم جديد. وتهدد هذه الممارسة المنتشرة على نطاق واسع بتقويض مستقبل الذكاء الاصطناعي، لأنها قد تؤدي إلى “انهيار” النماذج الأكثر تقدما.

تم تدريب معظم نماذج الذكاء الاصطناعي العاملة اليوم على النصوص والبيانات المستخرجة من الإنترنت. ولكن مع توسع النماذج، والتي تتطلب المزيد من بيانات التدريب، بدأت شركات الذكاء الاصطناعي في استخدام العمال الذين يجرون المحادثات والاختبارات مع الذكاء الاصطناعي، على أمل أن تتمكن البيانات عالية الجودة الناتجة من تحسين قوة وفائدة نماذج اللغات الكبيرة في المستقبل (LLMs).

وعادة ما يتم توظيف هؤلاء العمال من قبل أطراف ثالثة، بدلا من شركات الذكاء الاصطناعي مباشرة، وغالبا ما يعملون بدون عقود بدوام كامل وبأجور منخفضة. يمكن أن يحفزهم ذلك على اتباع طرق مختصرة مثل استخدام برامج الدردشة الآلية لإكمال المهام بشكل أسرع، وفقًا لموظفة تدعى أليس*، على الرغم من أن هذا يتعارض مع سياسات الشركة.

تقول أليس: “إنها منتشرة على نطاق واسع؛ فكل شركة عملت بها لديها مبادئ توجيهية واضحة حول هذا الأمر، ومن الواضح أنهم يحاولون القبض على الأشخاص، لذلك أعتقد أنهم يهتمون بذلك. لكنني لا أعتقد أنهم قادرون على إيقافه”.

تقول أليس لا يشعر بالذنب “على الإطلاق” بشأن استخدام ChatGPT لإكمال مهام التدريب، قائلًا إنه من السهل الإفلات من العقاب طالما أنك ترشد روبوتات الدردشة لتجنب العلامات المعتادة لمخرجات الذكاء الاصطناعي، مثل كثرة الشرطات. وتقول: “إن المستخدمين الأكثر إهمالًا هم الذين يتم القبض عليهم”. “يمكن لأي شخص لديه قدر بسيط من الوعي حول السمات المميزة للذكاء الاصطناعي أن يطلب من مخرجاته عدم استخدامها، وعند هذه النقطة ماذا ستفعل؟”

تقول أليس: “إذا كانت هذه الشركات تريد بيانات عالية الجودة، فعليها أن تقدم عقودًا عالية الجودة”. “بدلاً من ذلك، فإنهم أشخاص يكافحون بشكل منخفض، ويوظفونهم لأقل قدر ممكن من الوقت ويرمونهم جانبًا مع انتهاء المشاريع دون سابق إنذار”.

عامل آخر، بوب*، كان يعمل في منصة تدريب تسمى Outlier. في البداية، تم تكليفه بتدريب الذكاء الاصطناعي، والذي يقول إنه استخدم الذكاء الاصطناعي فيه بشكل غير مشروع، ثم تمت ترقيته إلى دور قيادي حيث كان جزءًا من وظيفته هو القبض على الآخرين وهم يفعلون الشيء نفسه.

يقول بوب: “تأرجحت الإدارة بين التسامح الخفيف والحظر التام”. سيتم تعقب العاملين في Outlier باستخدام أداة تسمى Hubstaff والتي تلتقط لقطات شاشة لسطح المكتب الخاص بهم على فترات عشوائية للتأكد من أنهم يقومون بالفعل بالمهام كما هو مطلوب. سيبحث بوب عن أدلة على نماذج الذكاء الاصطناعي في لقطات الشاشة هذه.

“سيحصل عليه الناس [AI models like ChatGPT] يقول بوب: “فتح في علامات تبويب أخرى، أو تم تصغيره، لذلك من الواضح أنه يمكننا رؤيته في شريط المهام”. “حتى الأشياء مثل المجلدات الموجودة على سطح المكتب والتي تحمل أسماء أعطت ذلك [AI use] بعيد.”

ولم تستجب شركة Outlier، المملوكة لشركة Scale AI، لطلب التعليق. تدعي شركة Scale AI على موقعها على الإنترنت أنها تنفذ أعمالًا لعمالقة التكنولوجيا مثل Meta وCisco، ولم يستجب أي منهما عالم جديدطلب التعليق. يقول بوب إنه عمل شخصيًا في مشاريع لشركة Google، والتي لم تستجب أيضًا لطلب التعليق.

تقول عاملة أخرى، تدعى كارول*، والتي عملت على عدة منصات، إن استخدامها للذكاء الاصطناعي بدأ بفحص عملها بحثًا عن أي شيء يتعارض مع الإرشادات المطولة لمهمة ما، لأن أي مخالفة قد تعني الطرد من المشروع وخسارة الأرباح.

تقول كارول: “كنت مرعوبة من عدم وجود مصدر للدخل، وبعد ذلك، أصبح من الأسهل إدارة كل شيء من خلال ماجستير إدارة الأعمال”. “بالنسبة للكثير من المشاريع التي أقوم بها الآن، فهي عبارة عن إنشاء سيناريوهات، لذلك سأستخدم ماجستيرًا واحدًا في إدارة الأعمال لمساعدتي في إنشاء السيناريو ثم سأستخدم ماجستير إدارة أعمال مختلفًا لمساعدتي في إنشاء الملفات التي تتوافق مع السيناريو. أشعر بالذنب ولكن كما قلت، في البداية كان الأمر يتعلق بمحاولة التأكد من أنني لم أرتكب أي أخطاء.”

“أنا قلق من أنني أحقق ذلك بالفعل [AI] أسوأ. تقول كارول: “اعتقدت أن استخدام العارضات لتدريب أنفسهن ينفي بعض القيمة”.

يقول مارك لي من جامعة برمنجهام بالمملكة المتحدة، إن الأبحاث أظهرت أن نماذج الذكاء الاصطناعي “تنهار” إذا تم تدريبها بشكل متكرر على المحتوى الناتج عن الذكاء الاصطناعي. عندما يحدث هذا، تنخفض قدرات النموذج بشكل كبير وتصبح أقل فائدة. تُعرف هذه العملية أحيانًا باسم أكل لحوم البشر بالذكاء الاصطناعي أو زواج الأقارب بالذكاء الاصطناعي.

يقول لي: “هذا هو السيناريو الأسوأ. وربما لا يكون هذا ما يحدث في العالم الحقيقي”. “لا يزال هناك عدد قليل من البشر. وإذا كان لديك ما يقرب من 10 في المائة من البيانات البشرية، فإن ذلك يخفف منها، ويتجنب انهيار النموذج”.

لكن لي يقول إن هذا النوع من الغش الذي يقوم به هؤلاء العمال لا يخلو من تداعيات، وسيؤثر على الأداء. “بدلاً من أن يكون الأمر كارثيًا، سترى أن الذكاء الاصطناعي ليس جيدًا في القيام بمهام تشبه تلك التي يقوم بها الإنسان. إنها مشكلة، لأنني أعتقد أن النماذج ليست جيدة كما ينبغي”.

*تم تغيير الأسماء لحماية الهويات