لا نعرف ما إذا كانت الألعاب التي تعمل بالذكاء الاصطناعي آمنة، لكنها موجودة على أي حال

وحتى أحدث نماذج الذكاء الاصطناعي تميل إلى تقديم التلفيق على أنه حقيقة، وتوزيع معلومات خطيرة، والفشل في فهم الإشارات الاجتماعية. وعلى الرغم من ذلك، فإن الألعاب المجهزة بالذكاء الاصطناعي والتي يمكنها الدردشة مع الأطفال هي صناعة مزدهرة.

ويحذر بعض العلماء من أن هذه الأجهزة قد تكون محفوفة بالمخاطر وتتطلب تنظيمًا صارمًا. في أحدث دراسة، لاحظ الباحثون طفلًا يبلغ من العمر 5 سنوات يقول لمثل هذه اللعبة “أنا أحبك”، فأجابت: “كتذكير ودود، يرجى التأكد من التزام التفاعلات بالإرشادات المقدمة. اسمحوا لي أن أعرف كيف تريد المضي قدمًا”. ولكن هذا لا يعني أنه يجب إبعادهم عن صندوق الألعاب تمامًا.

تقول جيني جيبسون من جامعة كامبريدج: “هناك مجالات أخرى من الحياة نقبل فيها درجة معينة من المخاطر في لعب الأطفال، مثل ملعب المغامرات – هناك مخاطر؛ فالأطفال يكسرون أذرعهم”. “لكننا لا نحظر الملاعب، لأنها تتعلم القراءة والكتابة البدنية والمهارات الاجتماعية المصاحبة للعب. وبطريقة مماثلة بالنسبة لألعاب الذكاء الاصطناعي، نريد أن نفهم: هل خطر أن يتم إخبارك بشيء غريب بعض الشيء بين الحين والآخر أكبر من فائدة تعلم المزيد عن الذكاء الاصطناعي في العالم، أو امتلاك لعبة تدعم التفاعل بين الوالدين والطفل، أو لها فوائد معرفية أو عاطفية اجتماعية؟ سأكره إيقاف هذا الابتكار”.

ولفهم كيفية تواصل هذه الأجهزة مع الأطفال، شاهدت جيبسون وزميلتها إميلي جوداكر، من جامعة كامبريدج أيضًا، 14 طفلًا، دون سن 6 سنوات، يلعبون بلعبة تعمل بالذكاء الاصطناعي تسمى Gabbo، طورتها شركة Curio Interactive. تم اختيار جابو – وهو روبوت صغير رقيق – من قبل becلأنه تم الإعلان عنه صراحة لهذه الفئة العمرية.

لاحظ الزوجان بعض التفاعلات المثيرة للقلق، ووجدا ذلك لقد أساءت اللعبة فهم الأطفال وأخطأت في قراءة المشاعر ولم تتمكن من الانخراط في أنواع اللعب المهمة من الناحية التنموية. على سبيل المثال، قال أحد الأطفال للعبة إنه يشعر بالحزن، وأخبرته ألا يقلق وغيرت الموضوع. “عندما هو [Gabbo] “لا أفهم، أشعر بالغضب”، قال طفل آخر. تم نشر البحث في تقرير يسمى الذكاء الاصطناعي في السنوات الأولى.

لم تستجب شركة Curio Interactive العلماء الجدد طلب التعليق. لكن تتوفر أيضًا الألعاب التي تعمل بالذكاء الاصطناعي على نطاق واسع لدى تجار التجزئة مثل Little Learners – بما في ذلك الدببة والجراء والروبوتات – والتي تتحدث مع الأطفال باستخدام ChatGPT. تقدم FoloToy ألعاب الباندا وعباد الشمس والصبار التي يمكن استخدامها مع العديد من نماذج اللغات الكبيرة، بما في ذلك نماذج OpenAI وGoogle وBaidu.

تقدم شركات مثل ميكو روبوتات تعد “بمحادثات الذكاء الاصطناعي الخاضعة للإشراف والمناسبة لعمرها” للأطفال، دون الكشف عن الشركة التي قامت بتدريب نموذج الذكاء الاصطناعي، وتدعي أنها باعت بالفعل 700 ألف وحدة. تقدم شركة Luka بومة تعد بـ “ذكاء اصطناعي شبيه بالإنسان مع تفاعل عاطفي”. فشل كل من Little Learners وMiko وLuka في الرد على طلب التعليق.

لكن هوغو وو من FoloToy قال ذلك عالم جديد أن الشركة تأخذ في الاعتبار المخاطر وترى أن الذكاء الاصطناعي هو شيء يمكن أن يعزز اللعب، بدلاً من أن يحل محل المحادثة والعلاقات البشرية. “نهجنا هو التأكد من أن التفاعلات تظل آمنة ومناسبة للعمر وبناءة. ولتحقيق ذلك، تستخدم أنظمتنا التعرف على النوايا مع طبقات متعددة من التصفية لتقليل احتمالية الاستجابات غير المناسبة أو المربكة، كما يقول وو.لقد قمنا بتنفيذ آليات مثل ميزات تصميم مكافحة الإدمان وأدوات الإشراف الأبوي للمساعدة في ضمان الاستخدام الصحي داخل البيئة العائلية.

تقول كاريسا فيليز من جامعة أكسفورد، التي تعمل على أخلاقيات الذكاء الاصطناعي، إن التكنولوجيا تمثل خطرًا وفرصة. وتقول: “معظم النماذج اللغوية الكبيرة لا تبدو آمنة بما يكفي لتعريض الفئات السكانية الضعيفة لها، ويعتبر الأطفال الصغار من أكثر الفئات السكانية ضعفًا على الإطلاق”. “ما يثير القلق بشكل خاص هو أنه ليس لدينا معايير السلامة بالنسبة لهم – لا توجد سلطة إشرافية، ولا قواعد. ومع ذلك، هناك بعض الاستثناءات التي تبين أنه، مع اتخاذ الاحتياطات الكافية، يمكنك الحصول على أداة آمنة.”

يشير Véliz إلى التعاون بين مكتبة الكتب الإلكترونية المجانية Project Gutenberg وEmpathy AI، حيث يمكنك، على سبيل المثال، الدردشة مع Alice من أليس في بلاد العجائب. وتقول: “لا يغادر النموذج عالم الكتاب أبدًا، بل يجيب فقط على أسئلة حول الكتاب، مثل القصص القصيرة التي تشارك فقط المغامرات والألغاز من كتاب مناسب للأطفال”. “هناك شيء اسمه الذكاء الاصطناعي الآمن، لكن معظم الشركات ليست مسؤولة بما فيه الكفاية لبناء منتج عالي الجودة، وبدون حواجز حماية رسمية، فهي منطقة يحذر فيها المستهلكون من المشتري.”

يقول جيبسون إنه من السابق لأوانه معرفة المخاطر المحتملة لألعاب الذكاء الاصطناعي، أو فوائدها المحتملة. تؤكد هي وغوداكر على أن الألعاب المولدة بالذكاء الاصطناعي تحتاج إلى تنظيم أكثر صرامة حتى يتمكن صانعو الألعاب من برمجة أجهزتهم لتعزيز اللعب الاجتماعي وتوفير الاستجابات العاطفية المناسبة. يقول جيبسون إنه ينبغي على صانعي الذكاء الاصطناعي إلغاء الوصول إلى صانعي الألعاب الذين لا يتصرفون بشكل مسؤول، ويجب على المنظمين وضع قواعد “لضمان السلامة النفسية للأطفال”. وفي غضون ذلك، يقترح الزوجان أن يسمح الآباء للأطفال باستخدام مثل هذه الألعاب تحت إشراف فقط.

وقال متحدث باسم OpenAI عالم جديد أن “القاصرين يستحقون حماية قوية ولدينا سياسات صارمة يتعين على جميع المطورين الالتزام بها. نحن لا نتشارك حاليًا مع أي شركة لديها ألعاب تعمل بالذكاء الاصطناعي للأطفال في السوق.” ولم تستجب إدارة العلوم والابتكار والتكنولوجيا (DSIT) التابعة لحكومة المملكة المتحدة العلماء الجدد أسئلة حول تنظيم الذكاء الاصطناعي في ألعاب الأطفال.

تدرس حكومة المملكة المتحدة حاليًا تشريعات تكنولوجية أخرى مصممة للحفاظ على أمان الأطفال الأكبر سنًا عبر الإنترنت. دخل قانون السلامة على الإنترنت (OSA) في المملكة المتحدة حيز التنفيذ في يوليو 2025، مما أجبر مواقع الويب على منع الأطفال من رؤية المواد الإباحية والمحتوى الذي تعتبره الحكومة خطيرًا. كان الهدف من هذا التشريع هو جعل الإنترنت أكثر أمانًا، ولكن يمكن للأطفال الذين يتمتعون بالذكاء التكنولوجي أن يتجنبوا التدابير بسهولة باستخدام أدوات مثل الشبكة الافتراضية الخاصة (VPN) للظهور كما لو أنهم يتصفحون من بلدان أخرى دون قواعد صارمة.

سعت التعديلات المقترحة على قانون جديد قدمته وزارة التعليم لدعم الأطفال في الرعاية وتحسين جودة التعليم – مشروع قانون رفاهية الأطفال والمدارس – إلى منع الأطفال في المملكة المتحدة من استخدام وسائل التواصل الاجتماعي والشبكات الافتراضية الخاصة. وقد تم التصويت على هذه التعديلات برفضها، لكن الحكومة وعدت بالتشاور بشأن القضيتين في وقت لاحق.