هل الفتنة آمنة؟ الكشف عن تحديات المنصات الاجتماعية لحماية الأطفال

التكتيكات الموصوفة في المنشور تتماشى مع حلقات الاعتداء الجنسي على الأطفال على Discord التي تم ضبطها من قبل السلطات الفيدرالية الأمريكية على مدى السنوات العديدة الماضية. وصف المدعون حلقات ذات أدوار منظمة ، بما في ذلك “الصيادون” الذين حددوا مكان فتيات صغيرات ودعوهن إلى خادم Discord ، و “المتحدثين” المسؤولين عن الدردشة مع الفتيات وإغرائهن ، و “المتسللين” الذين بثوا محتوى جنسيًا تم تسجيله مسبقًا و يتظاهرون بأنهم قاصرون لتشجيع الأطفال الحقيقيين على الانخراط في نشاط جنسي

قال شيهان إن مؤسسته كثيرًا ما تتلقى تقارير من منصات تقنية أخرى تذكر المستخدمين وحركة المرور من Discord ، والتي يقول إنها علامة على أن المنصة أصبحت مركزًا للنشاط غير المشروع.

قال ريدغريف: “قلبي يخاطب العائلات التي تأثرت بعمليات الاختطاف هذه” ، وأضاف أن الاستمالة تحدث في كثير من الأحيان عبر العديد من المنصات.

قال Redgrave إن Discord تعمل مع Thorn ، وهي مطور معروف لتقنية مكافحة استغلال الأطفال ، على نماذج يمكنها اكتشاف سلوك الاستمالة. وصف أحد ممثلي شركة Thorn المشروع بأنه يحتمل أن يساعد “أي نظام أساسي به زر تحميل لاكتشاف ومراجعة والإبلاغ عن CSAM وأشكال أخرى من الاعتداء الجنسي على الأطفال على الإنترنت.” حاليًا ، الأنظمة الأساسية قادرة بشكل فعال على اكتشاف الصور ومقاطع الفيديو التي تم تحديدها بالفعل على أنها CSAM ، لكنها تواجه صعوبة في اكتشاف محتوى جديد أو سلوكيات الاستمالة طويلة المدى.

على الرغم من وجود المشكلة لسنوات ، تمكنت NBC News ، بالتعاون مع الباحث مات ريتشاردسون من مبادرة مكافحة الاتجار بالبشر غير الربحية ومقرها الولايات المتحدة ، من تحديد مواقع الخوادم الحالية التي أظهرت علامات واضحة على استخدامها لاستغلال الأطفال.

على مواقع الويب المخصصة لإدراج خوادم Discord ، روج الأشخاص لخوادمهم باستخدام أشكال مختلفة من الكلمات بالأحرف الأولى “CP” ، وهي اختصار لمواد إباحية للأطفال ، مثل “تشيز بيتزا” و “سياسة غير رسمية”. غالبًا ما كانت أوصاف المجموعات أكثر وضوحًا ، حيث كانت تعلن عن بيع “t33n” أو محتوى المراهقين. لا يقوم Discord بتشغيل هذه المواقع.

ردًا على أسئلة NBC News حول خوادم Discord ، قال Redgrave إن الشركة تحاول تثقيف مواقع الأطراف الثالثة التي تروج لها حول التدابير التي يمكن أن تتخذها والتي يمكن أن تحمي الأطفال.

في العديد من الخوادم ، طلبت المجموعات صراحةً من القُصر الانضمام إلى مجتمعات “غير آمنة للعمل”. روج أحد الخوادم لنفسه على قاعدة بيانات عامة للخادم قائلاً: “هذا مجتمع للأشخاص الذين تتراوح أعمارهم بين 13 و 17 عامًا. نحن نتاجر بالعراة ونقوم بالمناسبات. انضم إلينا للحصول على أفضل تجربة Teen-NSFW <3. "

يبدو أن المجموعات تنسجم مع وصف مجموعات إنتاج مواد الاعتداء الجنسي على الأطفال التي وصفها المدعون ، حيث يتظاهر البالغون بأنهم مراهقون لإغراء الأطفال الحقيقيين بمشاركة الصور العارية.

داخل إحدى المجموعات ، طلب المستخدمون مباشرة صور عارية من القصر للوصول إليها. “أنت بحاجة إلى إرسال صورة تحقق إلى المالك! كتب أحد المستخدمين في المجموعة “يجب أن تكون عارية”. “نقبل فقط ما بين 12 و 17 عامًا.”

في مجموعة أخرى ، ادعت على وجه التحديد أنها تقبل “الفتيات الصغيرات من سن 5 إلى 17 عامًا فقط” ، تضمنت قنوات الدردشة عناوين “التسول لممارسة الجنس الدردشة” و “إرسال الرسائل النصية مع صاحب الخادم” مقاطع فيديو عارية “و” عراة “.

قال ريتشاردسون إنه يعمل مع تطبيق القانون للتحقيق في مجموعة واحدة على Discord مع مئات الأعضاء الذين يحتفلون علانية بابتزاز الأطفال الذين يقولون إنهم خدعوا لمشاركة الصور الجنسية ، بما في ذلك صور إيذاء النفس ومقاطع الفيديو التي يقولون إنهم لقد جعلوا الأطفال يسجلون.

لم تدخل NBC News إلى القنوات ، ولم يتم عرض مواد الاعتداء الجنسي على الأطفال في تغطية هذا المقال.

تقوم Discord بتسويق نفسها للأطفال والمراهقين ، وتعلن عن وظائفها للأندية المدرسية على صفحتها الرئيسية. لكن العديد من المستخدمين الآخرين على المنصة هم من البالغين. يسمح للفئتين العمريتين بالاختلاط بحرية. وضعت بعض المنصات الأخرى ، مثل Instagram ، قيودًا على كيفية تفاعل الأشخاص الذين تقل أعمارهم عن 18 عامًا مع الأشخاص الذين تزيد أعمارهم عن 18 عامًا.

تتيح المنصة لأي شخص إنشاء حساب ، ومثل بعض الأنظمة الأساسية الأخرى ، لا يطلب سوى عنوان بريد إلكتروني وتاريخ ميلاد. تنص سياسات Discord على أنه لا يمكن للمستخدمين الأمريكيين الانضمام إلا إذا كان عمرهم 13 عامًا على الأقل ، ولكن ليس لديهم نظام للتحقق من عمر المستخدم الذي أبلغ عنه بنفسه. أصبح التحقق من العمر مشكلة ساخنة في عالم سياسة وسائل التواصل الاجتماعي ، حيث يتم النظر في التشريعات المتعلقة بهذا الموضوع في جميع أنحاء الولايات المتحدة. حاولت بعض المنصات الرئيسية مثل Meta إنشاء طرق خاصة بها للتحقق من العمر ، و Discord ليس كذلك المنصة الوحيدة التي لم تنشئ بعد نظام التحقق من العمر.

قال ريدغريف إن الشركة “تدرس بنشاط وستستثمر في تقنيات ضمان العمر.”

غالبًا ما يتمكن الأطفال دون سن 13 عامًا من إجراء حسابات على التطبيق ، وفقًا للمحكمة استعرضت الإيداعات من قبل NBC News.

على الرغم من الطبيعة المغلقة للمنصة وبيئة الأعمار التي تختلط عليها ، كانت المنصة شفافة بشأن افتقارها إلى الإشراف على الأنشطة التي تحدث عليها.

قالت المنصة على صفحة في مركز الأمان الخاص بها: “نحن لا نراقب كل خادم أو كل محادثة”. بدلاً من ذلك ، تقول المنصة إنها تنتظر في الغالب من أعضاء المجتمع الإبلاغ عن المشكلات. “عندما يتم تنبيهنا بشأن مشكلة ما ، فإننا نحقق في السلوك المعني ونتخذ إجراءً.”

قال Redgrave إن الشركة تختبر النماذج التي تحلل البيانات الوصفية للخادم والمستخدم في محاولة لاكتشاف تهديدات سلامة الأطفال.

قال ريدغريف إن الشركة تخطط لإطلاق نماذج جديدة ستحاول تحديد الاتجاهات غير المكتشفة في محتوى استغلال الأطفال في وقت لاحق من هذا العام.

على الرغم من جهود Discord للتصدي لاستغلال الأطفال و CSAM على منصتها ، قال العديد من المراقبين والمسؤولين إنه يمكن القيام بالمزيد.

قال دنتون هوارد ، المدير التنفيذي لـ Inhope ، وهي منظمة لخطوط ساخنة للأطفال المفقودين والمستغلين من جميع أنحاء العالم ، إن مشاكل Discord تنبع من الافتقار إلى البصيرة ، على غرار الشركات الأخرى.

قال: “السلامة حسب التصميم يجب أن تُدرج من اليوم الأول ، وليس من اليوم 100”.

قال هوارد إن Discord قد تواصلت مع Inhope واقترحت أن تكون شريكًا متبرعًا للمنظمة. بعد تقييم المخاطر والتشاور مع أعضاء المجموعة ، رفض Inhope العرض وأشار إلى مجالات التحسين في Discord ، والتي تضمنت أوقات الاستجابة البطيئة للتقارير ، ومشكلات الاتصالات عندما حاولت الخطوط الساخنة التواصل ، والخطوط الساخنة التي تتلقى تحذيرات الحساب عندما يحاولون ذلك. للإبلاغ عن CSAM ، والاستضافة المستمرة للمجتمعات التي تتاجر وتخلق CSAM ، وتختفي الأدلة قبل سماع رد من Discord.

في رسالة بريد إلكتروني من Discord إلى Inhope شاهدتها NBC News ، قالت شركة Discord إنها تقوم بتحديث سياساتها حول سلامة الأطفال وتعمل على تنفيذ “مصنف THORN’s Grooming.”

قال هوارد إن Discord قد أحرزت تقدمًا منذ ذلك التبادل في مارس ، حيث أعادت العمل بالبرنامج الذي يعطي الأولوية للتقارير الواردة من الخطوط الساخنة ، لكن شركة Inhope لم تحصل بعد على تبرع الشركة.

قال Redgrave إنه يعتقد أن التحسينات التي أوصى بها Inhope تتماشى مع التغييرات التي كانت الشركة تأمل منذ فترة طويلة في تنفيذها في نهاية المطاف.

أشار شيهان إلى أن NCMEC واجهت أيضًا صعوبات في العمل مع Discord ، قائلة إن المنظمة ألغت دعوة إلى Discord لتصبح جزءًا من مناقشة Cybertipline Roundtable ، والتي تشمل مراسلي تطبيق القانون وأعلى معلمين بعد أن فشلت الشركة في “تحديد ممثل كبير لسلامة الأطفال للحضور. “

قالت شيهان: “كان التزامهم بما يفعلونه في مجال استغلال الأطفال أمرًا مشكوكًا فيه حقًا”.

طاقم المباحث الرقيب. قال تيم براون من شرطة مقاطعة أونتاريو الكندية إنه قوبل بالمثل برد فعل محير من المنصة مؤخرًا جعله يتساءل عن ممارسات الشركة فيما يتعلق بسلامة الأطفال. في أبريل ، قال براون إن ديسكورد طلب من إدارته الدفع بعد أن طلب من الشركة الاحتفاظ بالسجلات المتعلقة بحلقة محتوى يشتبه في أنها تتعلق بالاعتداء الجنسي على الأطفال.

قال براون إن قسمه حدد خادم Discord مع 120 مشاركًا كانوا يشاركون مواد الاعتداء الجنسي على الأطفال. عندما طلبت الشرطة من Discord الاحتفاظ بالسجلات من أجل تحقيقها ، أشارت Discord إلى أن ذلك سيكلف مبلغًا غير محدد من المال.

في رسالة بريد إلكتروني من Discord إلى شرطة أونتاريو اطلعت عليها NBC News ، كتب الفريق القانوني لـ Discord: “عدد الحسابات التي طلبتها بشأن الحفظ الخاص بك ضخم جدًا بحيث لا يمكن الوصول إليه بسهولة من Discord. سيكون من المرهق للغاية البحث عن البيانات التي قد تكون موجودة أو استردادها. إذا كنت تتابع بحث Discord عن هذه المعلومات وإنتاجها ، فسنحتاج أولاً إلى مناقشة تعويض التكاليف المرتبطة بالبحث عن أكثر من 20 معرّفًا وإنتاجها “.

قال براون إنه لم يسبق له أن رأى شركة وسائط اجتماعية أخرى تطلب تعويضها مقابل الاحتفاظ بالأدلة المحتملة من قبل.

قال براون إن إدارته قدمت في النهاية طلبات فردية لكل معرّف ، والتي قبلتها Discord بدون دفع ، لكن العملية استغرقت وقتًا بعيدًا عن أجزاء أخرى من التحقيق.

قال: “هذا بالتأكيد وضع حاجزًا على الطريق”.

قال ريدغريف إن الشركة تطلب بشكل روتيني من سلطات إنفاذ القانون تضييق نطاق طلبات المعلومات ، لكن طلب الدفع كان خطأ: “هذا ليس جزءًا من عملية الرد لدينا”.