في الخامس من شهر يوليو / تموز الحالي قام والدا الفتاتين لالاني إريكا والتون وأرياني جيلين أرويو برفع دعوى قضائية ضد منصة تيك توك، متهمينها باستخدام خوارزميات خطيرة. جاء في الادعاء أن تيك توك تقوم على نحو متكرر ومقصود بإبراز فيديوهات تحدي الإغماء للأطفال، وأن هذه الخطوة تؤدي إلى مشاركة الفتيات الصغيرات بهذا التحدي بشكل متكرر.

تحدي الإغماء “blackout challenge” يتم تشجيع المشاركين فيه على خنق أنفسهم بالأحزمة أو السلاسل أو أي شيء مشابه، حتى يغمى عليهم. وقد أدى هذا التحدي إلى وفاة 80 شخصاً وفق مركز السيطرة على الأمراض، في الولايات المتحدة. وبيّن المركز أن غالبية الأطفال الذين ماتوا بسبب هذا التحدي كانت أعمارهم تقل عن 15 عامًا، ومنهم الفتاة لالاني التي توفيت بعمر الثامنة في 15 تموز 2021، والتي حددت الشرطة وفاتها بأنها نتيجة مباشرة لتجربتها تحدي الإغماء. أما الفتاة أرياني فتوفيت بعمر التاسعة في 26 شباط 2021، للسبب ذاته.

خوارزمية تيك توك غير المستقرة

تعتبر الخوارزميات مفتاحاً أساسياً لنجاح أي منصة تواصل اجتماعي، فبفضلها يتم جذب انتباه المزيد من المستخدمين إلى محتوى المنصة. وتيك توك ليست منصة بث الفيديوهات الوحيدة التي تستخدم الخوارزميات لتوقع واقتراح فيديوهات جديدة لمستخدميها، لكن ما يميزها عن غيرها هو أن لخوارزميتها سيطرةٌ على ما يراه المستخدم أكثر من المستخدم نفسه. لذا فإن عدم قدرة المستخدم على تحديد وتخصيص ما يتم عرضه له من محتوى، يؤدي إلى العديد من السيناريوهات الخطيرة، كاقتراح التحديات والتشجيع على أفعال مضرّة، أو حتى عرض محتوى ذي ضرر نفسي وما إلى ذلك.

قامت صحيفة Wall Street Journal بنشر تقرير عن كيفية عمل خوارزمية التطبيق، وتم تحليل النتائج من قبل غيليوم شاسلوت، وهو عالم بيانات وخبير خوارزميات كان يعمل سابقًا كمهندس في خوارزميات يوتيوب. أوضح شاسلوت أن خوارزميات تيك توك أقوى بكثير مقارنًة بالمنصات الأخرى، قائلًا بأنها قادرة على أن تستكشف اهتمامات المستخدم خلال أقل من ساعتين، وفي بعض الأحيان خلال أقل من 40 دقيقة.

يتهم مشككون بخوارزميات تيك توك وآلية عرض المحتوى للمستخدم، بأن المنصة تعطي أولوية لمدى تفاعل المستخدم مع المحتوى، مهملةً تأثير المحتوى عليه وعلى سلوكه. بمعنى إن كان المستخدم يعاني من إرهاق نفسي بدلاً من أن يبعده التطبيق عن المحتوى المرهق، فإنه يكرس هذا المحتوى أمامه. وكذا الأمر بالنسبة لأصحاب الأفكار المتطرّفة مثلاً، فهو يكرس المحتوى المتطرف بدلاً من عرض المحتوى المتنوّر.

ازدواجية تيك توك

منذ أكثر من عقد من الزمن وحتى الآن، تعمل الصين على تحسين صورتها من خلال وسائل الإعلام. وبحسب مؤسسة Open Secrets، وهي مؤسسة تهتم بتتبع الأموال المستغلَّة في الدعاية السياسية، فإن منصّة تيك توك تخضع لسيطرة سياسية صينية، ففي أواخر عام 2019؛ أمرت تيك توك  مشرفين في منصتها بفرض الرقابة على مقاطع الفيديو التي تذكر أحداث ساحة تيانانمن، أو تتحدث عن قضية استقلال منطقة التيبيت، أو قضية الجماعة الدينية المحظورة فالون غونغ وغيرها الكثير. 

يستهدف نظام الرقابة في تيك توك بلا شك أي محتوى لا يتناسب مع الصين سياسياً وفكرياً، فيقوم بإقصاء حسابات وحذف محتوى، وتوجيه محتوى آخر. فيما يبدو أن المحتويات التي لا ترتبط ارتباطاً مباشراً أو غير مباشر بالسياسة أو الاقتصاد أو القضايا ذات الحساسية العالية بالنسبة للنظام الصيني، فإن الرقابة تختفي أو تقل كفاءتها. ذلك يجعل تلك المحتويات الضارة، والتي تؤدي إلى إزهاق أرواح أطفال ومراهقين، محتوياتٍ شائعة لا مشكلة لمنظومة الرقابة في المنصة معها.

كاتب المقال نيرودا الحسين ينصح بقراءة ...

أرقام صادمة عن خسائر فيسبوك.. بعد ضربة “آبل” الموجعة