السيطرة على المحتوى الذي ينشر على يوتيوب هي عملية صعبة ومعقدة، والروبوتات والخوارزميات الذكية فشلت في السيطرة على أزمة خطاب الكراهية بالموقع وكذلك مشكلة المحتوى الإباحي الذي يستهدف الأطفال ومحتويات أخرى غير مقبولة يتم رفعها يوميا إلى المنصة.
هذا ما اكتشفته جوجل والمؤسسة المملوكة لها يوتيوب، حيث يحاول جيش من خبراء العملاق الأمريكي تعزيز الرقابة ومنع المحتويات التي تدفع المعلنين لمقاطعة الموقع وايقاف حملاتهم الإعلانية.
يوتيوب عان من انسحاب المعلنين خلال الربيع الماضي، ومؤخرا لأن هناك مقاطع فيديو مخالفة تظهر للأطفال منها ما يشجع على الاستغلال الجنسي لهم، فقد قررت عدد من الشركات الإعلانية الإنسحاب مجددا، في انتظار حل المشكلة.
-
فشل الذكاء الإصطناعي والروبوتات في فرض الرقابة
توجهت الشركات الأمريكية العملاقة بما فيها أمازون و مايكروسوفت و تويتر و فيس بوك إضافة إلى جوجل نحو تبني الذكاء الإصطناعي وتطوير الخوارزميات لتفهم سلوكيات المستخدمين وتجمع البيانات وتتعلم بشكل آلي.
لكن وفيما نجحت هذه الخوارزميات من ترتيب نتائج البحث وإبراز المنشورات التي تهم المستخدمين وترتيب الصفحة الرئيسية والاقتراحات على يوتيوب، فشلت فشلا ذريعا في القضاء على الأخبار المزيفة وخطاب الكراهية ومشكلات أخرى تعاني منها منصات الإنترنت اليوم.
يوتيوب الذي يظهر الإعلانات بشكل مباشر على مقاطع مشبوهة وجد نفسه في ورطة كبيرة مقارنة مع المنصات الأخرى التي تتعرض لهجوم حاد منذ أكثر من عام بسبب هذه المحتويات التي يتفق الرأي العام على أنه لا مكان لها في حياتنا اليومية.
وتعهدت جوجل بتطوير خوارزمياتها من أجل اكتشاف تلك المقاطع وحذفها على منصتها، لكن ما حدث أن نسبة النجاح مع هذه الذكاء الإصطناعي قليل جدا، بل إن حذف مقطع فيديو غير مخالف ممكن جدا أو ربما حجبه وعدم التوصية به وارد.
-
الرقابة اليدوية هي الحل على يوتيوب
لدى يوتيوب فريق من الموظفين يعملون على مراجعة المخالفات واتخاذ قرارات الحذف او التجاهل حسب القوانين المعمول بها على المنصة.
لكن في الواقع فريق الرقابة في الشركة لا يستطيع أن يراجع الكميات الهائلة من التبليغات التي يعد جزءا منها غير موضوعي.
بل إنها تحتاج أيضا لمراجعة المقاطع الجديدة التي يتم نشرها والتأكد من أنها غير مخالفة وصديقة للإعلانات، وبمواردها الحالية فهذا غير ممكن.
يتم رفع 300 ساعة من الفيديو كل دقيقة على المنصة وهذه كمية رهيبة جدا من الصعب مراجعتها كلها، لكن الشركة التي تستخدم المراجعة الآلية تحتاج إلى دعم بالعنصر البشري لحل هذه المشكلة.
-
خطة توظيف حتى 10000 موظف في قسم الرقابة بموقع يوتيوب
قررت الشركة الأمريكية في تدوينة رسمية على مدونتها أنها ستعمل على زيادة موظفي قسم الرقابة في الشركة الأمريكية حتى 10000 موظفا.
وأضافت أنه بالرغم من نجاح الخوارزميات في اكتشاف نسبة جيدة من مقاطع الفيديو التي تهدد سلامة الأطفال والتي يمكن أن تظهر لهم في نسختهم الخاصة، فإن الموقع بحاجة إلى رقابة يدوية صارمة من أجل معالجة المشكلات التي يعاني منها واستعادة ثقة المعلنين والمستخدمين.
امتلاك فريق من 10000 موظف يعملون على مراقبة المحتوى ومراجعته واستخدام تقنيات استكشاف المحتويات الجديدة والتحقق من المقاطع التي لا تستطيع الخوارزميات كشفت المشكلة فيها، من شأنه أن يوفر منصة على الأقل أكثر أمانا من الوضع الراهن.
عودة جوجل للإعتماد على العنصر البشري بقوة يعني أن الآلة فشلت ولم تحقق ما هو متوقع منها في الأساس، وبالطبع هناك توجه أيضا لدى فيس بوك لتوظيف المزيد من الأشخاص لفرض الرقابة على منصتها.
نهاية المقال:
فشل الذكاء الإصطناعي في السيطرة على خطاب الكراهية ومقاطع التحريض على استغلال الأطفال جنسيا والفوضى التي يعاني منها يوتيوب وهو فشل يعيشه أيضا على فيس بوك، لذا هناك توجه لتوظيف أعداد كبيرة من المراقبين لاستعادة الرقابة والسيطرة على المحتوى الذي ينشر على المنصات الإجتماعية لضمان رضا المستخدمين والمعلنين الذين يهددون بتركها.