طالب أكثر من 200 خبير ومنظمة معنية بشؤون الأطفال من شركة غوغل الأمريكية بحظر مقاطع الفيديو المولدة بالذكاء الاصطناعي والتي تعرف باسم "النفايات الرقمية" (AI Slop) وتقييد وصولها إلى الأطفال عبر منصة "يوتيوب" ونسختها الخاصة بالأطفال "يوتيوب كيدز"، وذلك وفق تقرير وكالة "بلومبيرغ" الأمريكية.
والنفايات الرقمية هي محتوى منخفض الجودة ينتج بكميات كبيرة باستخدام أدوات الذكاء الاصطناعي، عادة ما تكون مكررة ومليئة بمشاهد غريبة أو هجينة وغير منطقية، وغالبا يكون هدفها جذب الانتباه أو المشاهدات أو الإعلانات أكثر من تقديم فائدة حقيقية. وجاءت هذه المطالبات على شكل رسالة موحدة استقبلها الرئيس التنفيذي لمنصة "يوتيوب" نيل موهان وسوندار بيتشاي الرئيس التنفيذي لشركة "ألفابيت" المالكة للمنصة ومحرك بحث غوغل أمس الأربعاء. وتضمنت الرسالة توقيعات العديد من خبراء السلامة النفسية والعقلية للأطفال من بينهم جوناثان هايدت مؤلف كتاب "الجيل القلق" الأكثر مبيعا في الفترة الماضية، فضلا عن منظمة "فيربلاي" (Fairplay) المعنية بشؤون الأطفال والتحالف الوطني للنهوض بصحة المراهقين والاتحاد الأمريكي للمعلمين حسب ما جاء في تقرير مجلة "فورتشن" الأمريكية.
واتهمت الرسالة "يوتيوب" ومن خلفها "ألفابيت" بأنها تتربح بشكل مباشر من هذه المقاطع والإعلانات التي تعرض بها، كون هذه المقاطع تجمع ملايين المشاهدات بشكل مستمر وفق التقرير. ويخشى المدافعون عن سلامة الأطفال الذين وقعوا على هذه الرسالة من أن مقاطع الفيديو منخفضة الجودة المولدة بالذكاء الاصطناعي تؤثر بشكل كبير على دورة انتباه الأطفال وقدرتهم على التمييز بين الواقع والخيال حسب ما جاء في تقرير "بلومبيرغ".
وترى راشيل فرانز، مديرة برنامج "ازدهار الأطفال الصغار دون اتصال بالإنترنت" التابع لمنظمة "فيربلاي" وإحدى الموقعين على الرسالة أن ظاهرة مقاطع "النفايات الرقمية" يجب أن تتوقف، كما يجب محاسبة "يوتيوب" على الطريقة التي صممت بها المنصة والتي تدفع المستخدمين لقضاء المزيد من الوقت. وأضافت في حديثها مع "فورتشن": "لا تعد مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي سوى تصعيد لعدد لا يحصى من المشاكل التي تواجهها منصة يوتيوب بالفعل فيما يتعلق بالتفاعل مع الأطفال على منصاتها" وطالبت الرسالة بحظر مقاطع الفيديو المولدة بالذكاء الاصطناعي والموجهة للأطفال خصيصا في منصات "يوتيوب" و"يوتيوب كيدز" وعلى الأقل إضافة خيار يتيح لأولياء الأمور منع ظهور هذه المقاطع لأطفالهم وفق تقرير وكالة "أسوشيتد برس".
ومن جانبها، أكدت "يوتيوب" على لسان المتحدث الرسمي بوت بولوينكل أن المنصة تضع معايير مرتفعة للمحتوى الذي يتم ترشيحه للأطفال من خلال "يوتيوب كيدز" بما فيها المحتوى المولد بالذكاء الاصطناعي. وأضاف بولوينكل في بيان رسمي قائلا: "نمنح الآباء خيار حظر القنوات بشكل كامل، فضلا عن أننا نولي أهمية قصوى للشفافية فيما يتعلق بالمحتوى المولد بالذكاء الاصطناعي" وتتزامن هذه الرسالة مع إعلان "غوغل" استثمار مليون دولار في شركة "أنيماج"، وهي شركة مختصة في إنتاج مقاطع الفيديو للأطفال والرضع باستخدام الذكاء الاصطناعي حسب تقرير "أسوشيتد برس".
More than 200 experts and organizations concerned with children’s welfare have called on the American company Google to ban AI-generated videos known as “digital waste” (AI slop) and restrict children’s access to them on YouTube and its children’s platform, YouTube Kids, according to a Bloomberg report.
Digital waste refers to low-quality content produced in large quantities using AI tools. It is often repetitive and filled with strange, hybrid, or illogical scenes, typically aimed at attracting attention, views, or advertising revenue rather than providing real value.
These demands were presented in a unified letter received on Wednesday by YouTube CEO Neal Mohan and Alphabet CEO Sundar Pichai, the parent company of Google. The letter included signatures from numerous experts in children’s mental and psychological well-being, including Jonathan Haidt, author of the bestselling book “The Anxious Generation,” as well as organizations such as Fairplay, the National Alliance for the Advancement of Adolescent Health, and the American Federation of Teachers, according to Fortune magazine.
The letter accused YouTube and its parent company Alphabet of directly profiting from such content and the advertisements attached to it, as these videos consistently generate millions of views. Child safety advocates warned that low-quality AI-generated videos may significantly impact children’s attention span and their ability to distinguish between reality and fiction, according to Bloomberg.
Rachel Franz, director of the “Offline Kids Thrive” program at Fairplay and one of the signatories, said the phenomenon of digital waste videos must stop, adding that YouTube should be held accountable for a platform design that encourages prolonged screen time. She told Fortune: “AI-generated videos are merely an escalation of countless existing problems YouTube already faces regarding children’s engagement on its platforms.”
The letter called for banning AI-generated videos specifically targeting children on YouTube and YouTube Kids, or at least providing an option for parents to block such content, according to the Associated Press.
In response, YouTube spokesperson Boot Bullwinkle stated that the platform applies high standards to content recommended for children on YouTube Kids, including AI-generated content. He added in an official statement: “We give parents the option to block entire channels, and we place strong emphasis on transparency regarding AI-generated content.”
This comes as Google recently announced a $1 million investment in Animaj, a company specializing in producing video content for children and infants using AI, according to the Associated Press.
