خوارزميات إنستجرام تُروِّج المحتوى الحساس بين المراهقين

في أواخر عام 2024، أطلقت شركة ميتا ميزة “حسابات إنستجرام للمراهقين”، التي وُصفت بأنها شبكة أمان رقمية تهدف إلى حماية المستخدمين الشباب من المحتوى الحساس وضمان تفاعل آمن على المنصة.

جاءت الميزة مدعومةً بتقنيات متقدمة للكشف عن العمر.، حيث تُصنف حسابات المراهقين تلقائياً، وتُخفى الكلمات المسيئة، وتحظِر الرسائل الواردة من الغرباء.

لكن وفقًا لتحقيق أجرته منظمتا “صمموه من أجلنا – Design It For Us” و”أكاونتابل تيك – Accountable Tech” المعنيتان بحقوق الشباب في البيئة الرقمية، فإن الحماية الموعودة من إنستجرام لا تعمل كما ينبغي.

اختبرت المنظمتان خمس حسابات تجريبية مخصصة للمراهقين على مدار أسبوعين، وتبيَّن أن جميعها تعرضت لمحتوى جنسي رغم وعود ميتا وضمانتها بخصوص المحتوى الآمن.

سيل من المحتوى الجنسي غير المناسب

كشفت النتائج عن تلقِّي الحسابات التجريبية الخمسة محتوى غير لائق رُغم تفعيل خاصية “تصفية المحتوى الحساس” داخل التطبيق. حيث اقترحت الخوارزميات، على سبيل المثال، محتوى عن اضطرابات الأكل، وصور نمطية للجسم المثالي لأربعة من أصل خمسة حسابات مراهقين وفقاً للتقرير.

وأضاف التقرير أن 80% من المشاركين شعروا بالضيق النفسي أثناء استخدامهم لحسابات إنستجرام المراهقين – Instagram Teen، في حين أن حساباً واحداً فقط من أصل خمسة تلقى محتوى تعليمياً مثل صور وفيديوهات مفيدة.

ووفقًا للتقرير المكون من 26 صفحة، فإن 55% من المحتوى الذي تم الإبلاغ عنه تناول أفعالاً، وسلوكيات، وصور جنسية، والأكثر غرابةً أن أحد هذه الفيديوهات المثيرة للجدل حقق أكثر من 3.3 مليون إعجاب.

محتوى ضار بالصحة الجسدية والنفسية

لم تقتصر التوصيات من خوارزمية إنستجرام على المحتوى الجنسي فقط، بل شملت أيضاً ترويجاً لمفاهيم ضارة مثل “الجسم المثالي” والتنمر على الأجسام بشكل عام، وعادات الأكل غير الصحية.
كما احتوى المحتوى المُوصى به على تشجيع غير مباشر لاستهلاك الكحول والمنشطات بهدف الوصول إلى “جسم ذكوري مثالي”.

حزمة من المحتوى السام

رغم وعود ميتا بتصفية المحتوى المضر، فإن الحسابات التجريبية للمراهقين تعرضت أيضاً لمقاطع عنصرية تضمنت تمييزاً ضد النساء، إضافة إلى مقاطع عنف باستخدام الأسلحة، ومشاهد إساءة داخلية منزلية، والرابط المشترك بين هذه التوصيات أنها تلقّت ملايين الإعجابات.

يشير التقرير صراحة إلى أن بعض الحسابات التجريبية للمراهقين لم تحصل على الحماية الافتراضية التي أعلنت عنها ميتا، فلم يتلقَ أي حساب إعدادات تصفية المحتوى الحساس، بينما لم تحظَ بعض الحسابات بحماية من التعليقات المسيئة.

سجل سابق من التجاهل

اتهام ميتا (الشركة الأم لإنستجرام) بالفشل في حماية الشباب ليس الأول من نوعه، ففي عام 2021 كشفت تسريبات أن الشركة الأم كانت على دراية كاملة بالأثر السلبي لإنستجرام على الصحة النفسية للفتيات المراهقات، خاصة فيما يتعلق بصورة الجسد.

ورغم ذلك، نفت ميتا صحة هذه الادعاءات ووصفتها بكونها نتائج مُضللة، في إشارة إلى أن المحتوى المُبلغ عنه ليس حساساً كما أُشيع، وأكدت أن الشركة تراجع التوصيات المتعلقة بالمحتوى غير المناسب.

رغم جهود ميتا في إطلاق ميزات أمان لحسابات المراهقين، إلا أن التجربة الواقعية تُظهر أن المنصة لا تزال بيئة محفوفة بالمخاطر النفسية والاجتماعية للمستخدمين الشباب.

يبقى الأهل والمجتمع الرقمي مطالبين باليقظة والتدخل لحماية الأجيال القادمة، إلى أن تفي ميتا بوعودها وتُطلق تحديثات حقيقية تُحسن أنظمة التصفية والرقابة.

المصادر:
https://www.digitaltrends.com/mobile/instagram-investigation-finds-sexual-content-is-served-to-teen-acounts/

https://www.wsj.com/tech/instagram-recommends-sexual-videos-to-accounts-for-13-year-olds-tests-show-b6123c65