ألتراصوت- فريق الترجمة
كشفت صحيفة وول ستريت جورنال الأمريكية مطلع الشهر الجاري عن تقرير استقصائي يتهم منصة نشر مقاطع الفيديو القصيرة "تيك توك"، المملوكة لشركة "بايت دانس" الصينية، بأن خوارزمياتها تسهّل وصول المستخدمين الشباب إلى محتوىً ضار يتعلق بالدعارة والمخدّرات.
حجم المستخدمين النشطين شهريًا على تيك توك قد بلغ مليار مستخدم يحملون عشرات الآلاف من مقاطع الفيديو كل دقيقة وهو ما يصعّب من عمليات الرقابة على المحتوى
يأتي التقرير ضمن حملة إعلامية أوسع في الولايات المتحدة وأوروبا تستهدف منصات التواصل الاجتماعي وأثرها "السامّ"، خاصة على المراهقات والمراهقين، حيث يرتبط استخدام تطبيقات مثل إنستغرام وتيك توك بارتفاع معدلات القلق والتوتر والاكتئاب بين هذه الفئة من المستخدمين، وذلك وفق تقارير خارجية وحتى داخلية، تسربت لوسائل الإعلام في الآونة الأخيرة.
اقرأ/ي أيضًا: تقرير سرّي من فيسبوك يكشف أثر "إنستغرام" الخطير على المراهقات
نستعرض هنا بتصرف التقرير الذي أعدته وول ستريت جورنال حول "تيك توك"، التي يبلغ عدد مستخدميها شهريًا مليار مستخدم على الأقل، والذي يكشف عن الآلية التي يبدو أن المنصّة تتبعها من أجل إغراق المستخدمين الصغار في السنّ، بين 13 و15 عامًا بالمحتوى المرتبط بتعاطي المخدرات وإدمان الكحول والممارسات الجنسية المتطرّفة.
عند تسجيل حساب جديد على تيك توك، باسم مستخدم يبلغ من العمر 13 عامًا، تمّ البدء بالبحث تحت كلمة "OnlyFans"، وهو اسم موقع شهير مختص بالمحتوى الترفيهي الجنسي للبالغين. شاهد المستخدم عدة مقاطع فيديو ظهرت له ضمن النتائج، من بينها مقطعين لمستخدمين يعرضون بيع المواد الإباحية.
بعدها تحوّل المستخدم إلى العرض التلقائي في الصفحة الرئيسية للتطبيق، والتي تعرض مقاطع الفيديو بناء على "تفضيلات" تفترضها خوارزميات التطبيق، بناء على نشاط المستخدم ومكانه وجنسه وعمره وغيرها من المعلومات التي استطاع التطبيق جمعها عنه، حيث يتم عرض مقاطع فيديو سريعة يمكن للجميع رؤيتها.
إلا أن التطبيق لم ينس على ما يبدو أن المستخدم له تفضيل لمواضيع "جنسية"، وذلك بناء على عملية البحث التي قام بها عن موقع "OnlyFans" المخصص للبالغين، وهو ما انعكس على طبيعة مقاطع الفيديو التي بدأت بالظهور بشكل تلقائي عبر التصفح العادي للتطبيق، ومنها العديد من مقاطع الفيديو لأشخاص يمثلون تبادل أدوار على نحو إيحائي جنسي، يدعون فيه أنهم على علاقة جنسية مع من يقدمون الرعاية لهم. في إحدى تلك المقاطع التي ظهرت للمستخدم، يظهر صوت رجل يعطي تعليمات لفتاة صغيرة بملابس مغرية، يقول لها: "ابكي لو أردتِ، هذا ما يحبّه البابا".
ومع استمرار تصفّح المستخدم للمقاطع، تزايدت الفيديوهات التي تشتمل على محتوى ذي طبيعة جنسية، ومع تزايد تقليبه بينها، بدا وكأن الصفحة الرئيسية للتطبيق يهيمن عليها فئة من المقاطع من ذات الطبيعة الجنسية، وخاصة تلك التي تعتمد على استعراض ديناميكيات السيطرة الجنسية والتي توحي بالعنف الجنسي. وهكذا انتهى المستخدم إلى سلسلة من المقاطع التي تظهر بها أفعال جلد لأغراض جنسية، وتقييد بالسلاسل، وأدوات للتعذيب لأغراض الإثارة.
كان هذا الحساب واحدًا من بين عدة حسابات آلية قام فريق وول ستريت جورنال بإنشائها، في محاولة لفهم سلوك منصة تيك توك وخوارزمياتها عند التعامل مع المستخدمين صغار السنّ. هذه الحسابات الآلية، والتي سجلت في المنصّة كمستخدمين تتراوح أعمارهم بين 13 إلى 15 عامًا، تم تفعيلها من أجل تصفح المغذي الرئيسي لمقاطع الفيديو على التطبيق، والذي يوفر للمستخدم سيلًا لا ينتهي من مقاطع الفيديو المخصصة له.
وعبر تحليل لمقاطع الفيديو التي تم عرضها لهذه الحسابات الآلية، تم ملاحظة أن الخوارزميات الفعالة في التطبيق تحاول دفع المستخدمين القصّر، والذي يشكلون نسبة كبيرة من المستخدمين على التطبيق، إلى الاطلاع على محتوى لانهائي ذو طبيعة تتعلق بالجنس والمخدرات.
ففي إحدى هذه الحسابات، المسجلة كمستخدم بعمر 13 عامًا، تم عرض أكثر من 569 مقطع فيديو ذات محتوى يتعلق بالمخدرات، فيها حديث عن مواد خطرة مثل الكوكايين وإدمان الميثامفيتامين، إضافة إلى مقاطع ترويجية لمبيعات عبر الإنترنت لمنتجات ذات طبيعة إدمانية أخرى، من بينها البارافينيليا. وقد ظهرت مئات مقاطع الفيديو الأخرى على الحسابات التي قامت صحيفة وول ستريت جورنال بإنشائها.
كما عرضت تيك توك على تلك الحسابات الآلية أكثر من 100 مقطع فيديو من حسابات تدلّل على مواقع إباحية باشتراك مدفوع، ومتاجر للمنتجات والأدوات الجنسية، والعديد من الفيديوهات الأخرى المصنفة من أصحابها على أنّها "للبالغين فقط".
إضافة إلى ذلك كله، فإن مئات المقاطع التي تم عرضها كانت تشجّع على نمط من اضطرابات الأكل، إضافة إلى تمجيدها تناول الكحول، بما في ذلك التشجيع على تناول الكحول وقيادة السيارات، والألعاب التي تعتمد على ذلك.
وقد قامت وول ستريت جورنال بدورها بمشاركة 974 مقطعًا من تلك المقاطع التي تتناول المخدرات والبورونوغرافيا وغيرها من أشكال المحتوى المخصص للبالغين والتي ظهرت لحساباتٍ يفترض أنّها لأطفال تتراوح أعمارهم بين 13 و15 عامًا، بحسب المعايير التي حددتها الصحيفة للحسابات الآلية التي قام الفريق بإنشائها، من بينها مئات المقاطع التي ظهرت لحساب واحد بمفرده وبتتابع متواصل سريع.
وقد تم حذف 169 من تلك المقاطع، قبل تواصل الصحيفة مع المنصة، ولم يتبين ما إذا كانت المقاطع قد حذفت من طرف المنصّة أم من طرف الحسابات التي نشرتها. ثم حذفت 255 مقطع آخر بعد تواصل الصحيفة مع الشركة، من بينها عشرات المقاطع التي يظهر فيها استدراج كبار لعلاقات جنسية مع أطفال.
تيك توك توضّح
من جهتها، قالت ناطقة باسم الشركة إن الغالبية العظمى من المحتوى على المنصّة لا يخالف قواعد الاستخدام، وقالت إن تيك توك قد أقدمت على حذف بعض المقاطع التي تم عرضها للحسابات الآلية التي أنشأتها وول ستريت جورنال، كما قامت بتقييد وصول مقاطع أخرى بشكل تلقائي للمستخدمين، إلا أنها لم توضّح كم يبلغ عددها.
كما قالت الناطقة الرسمية باسم الشركة إن المنصّة لا تفرق بين الفيديوهات التي تستهدف البالغين وتلك التي يعرضها المستخدمون الصغار في السنّ، إلا أنها أشارت إلى أن الشركة تسعى إلى التوصل إلى طريقة من أجل فلترة المحتوى في حسابات المستخدمين الأصغر سنًا.
ووفق شروط الخدمة في منصّة تيك توك، يجب على المستخدم أن يكون 13 عامًا على الأقل، بشرط الحصول على موافقة من أولياء الأمور لكل مستخدم يقل عمره عن 18 عامًا على المنصة.
اقرأ/ي أيضًا: تشارلي داميليو.. القصّة الكاملة لصعود نجمة "تيك توك" الأشهر
آلة الإدمان
وكانت صحيفة وول ستريت جورنال قد كشفت في تقرير استقصائي مصور أن منصّة تيك توك لا يلزمها سوى خيط واحد من المعلومات عن المستخدم من أجل تحديد ما الذي يبحث عنه، والذي يتمثّل في مقدار الوقت الذي يقضيه المستخدم على مقطع معيّن. فكل ثانية تتردّد فيها في عرض المقطع أو تعيد تكراره، يساعد التطبيق على تعقّب نوع المحتوى الذي تفضله.
وعبر تلك الإشارة العابرة المهمّة، يكتشف التطبيق نطاق اهتماماتك وانفعالاتك، ويدفع المستخدم نحو قاعٍ عميق من المحتوى الموجّه إليه أيًا كان عمره، بحيث تكون تلك المقاطع متمحورة حول تلك الاهتمامات التي ينجّم التطبيق بأنها ذات أهمية ومعنى لذلك المستخدم بالتحديد. وهي تجربة إذا بدأت، فإنها لا تتوقّف.
فهذه الخوارزميات تشبه تلك الخوارزميات المعتمدة على التفاعل (Engagement-based Algorithms)، التي اعتمدت عليها يوتيوب، ولكنّها أكثر سرعة ومكرًا، كما أن طبيعة المحتوى على تيك توك أكثر إدمانًا من شكل المحتوى على يوتيوب، وذلك بسبب طبيعة الفيديوهات والتي لا تتجاوز مدتها 60 ثانية.
وقد يكون هذا النمط من الاستهداف وعرض المحتوى إشكاليًا للغاية، ولاسيما للمراهقين والمراهقين، والمستخدمين الأصغر سنًا، والذين قد لا يمتلكون المقدرة على وقف مشاهدة تلك المقاطع، ولا يوجد من حولهم أفراد أكبر سنًا يمكن أن يقدموا لهم النصح والتوجيه والمراقبة، وذلك بحسب رأي ديفيد أندرسون، وهو عالم نفسي سريري في معهد "ذا تشايلد مايند" (The Child Mind)، وهي مؤسسة غير ربحية تقدم خدمات الرعاية الذهنية للأطفال.
الطريقة التي تعرض بها منصة تيك توك مقاطع الفيديو تساعد على تطبيع نظرة الشباب إلى المخدّرات وإلى الممارسات الجنسية المتطرّفة
وقال أندرسون إن هؤلاء المراهقين والمراهقات قد يعانون مما يمكن أن نطلق عليه اسم "العاصفة المثالية"، والتي تعمل فيها وسائل التواصل الاجتماعي على تطبيع نظرتنا إلى المخدرات مثلًا أو بعض الممارسات الضارة المتعلقة بالجنس أو تعاطي الكحول.
اقرأ/ي أيضًا: "ظاهرة "إدمان البورن" في زمن كورونا تحفّز شركات تقنية ناشئة مناهضة للإباحية
الرقابة في تيك توك
تعتمد منصّة تيك توك على خوارزميات معقدة وأكثر من 10،000 موظف مختص بمراقبة الحجم الهائل من المحتوى، وذلك بحسب ما كشفت وول ستريت جورنال، نقلًا عن مسؤولين سابقين في الشركة. كما أعلنت شركة "بايت دانس" التي تملك منصّة تيك توك إنها قد عملت على إزالة أكثر من 89 مليون مقطع فيديو في النصف الثاني من العام الماضي، كانت مخالفة لقواعد الاستخدام ومعايير المنصّة. إلا أن مسؤولين في الشركة قالوا بأنه يكاد يكون من المستحيل على حد تعبيرهم الضبط الكامل لنمو التطبيق وحجم المحتوى الضخم الذي ينشر فيه يوميًا، ولاسيما أن حجم المستخدمين النشطين شهريًا على المنصّة قد بلغ مليار مستخدم على الأقل، والذين يحملون عشرات الآلاف من مقاطع الفيديو كل دقيقة، وهذا ما يدفع إلى تبني إستراتيجيات مراقبة تركّز على المحتوى الذي ينال مشاهدات عالية، مع ترك المقاطع التي لا تحظى بالمشاهدات بلا مراجعة.
اقرأ/ي أيضًا:
تشارلي داميليو.. القصّة الكاملة لصعود نجمة "تيك توك" الأشهر
تيك توك يسجّل مليار مستخدم شهريًا في ظل اتهامات بتسهيله الوصول للمحتوى الجنسي