قال الرئيس التنفيذي لشركة Discord ، جيسون سيترون ، يوم الخميس إنه وجد تقارير عن استغلال الأطفال على منصة الدردشة الشعبية “مرعبة” وأن موقع Discord أخذ القضية “على محمل الجد”.
جاءت تعليقاته ، في قمة بلومبرج للتكنولوجيا في سان فرانسيسكو ، في اليوم التالي لنشر إن بي سي نيوز تحقيقا في القضية.
وقالت إميلي تشانغ ردا على أسئلة الصحفية في بلومبيرج إميلي تشانغ: “كوالد ، إنه أمر مروع. نحن نأخذ هذه الأمور على محمل الجد.”
أشار Citron إلى أن Discord توظف فريقًا مخصصًا لسلامة الأطفال مكلفًا بمحاولة منع الاستغلال على المنصة “بطريقة تحترم خصوصية جميع الأشخاص الذين لا يفعلون هذه الأشياء”.
كشف التحقيق أنه منذ إنشاء المنصة في عام 2015 ، تضمنت ما لا يقل عن 35 محاكمات تتعلق باختطاف الأطفال أو الاستمالة أو الاستغلال اتصالات عبر Discord ، و 165 دعوى تتعلق بالاعتداء الجنسي على الأطفال شملت المنصة. بالإضافة إلى ذلك ، حددت NBC News المئات من خوادم Discord النشطة التي تروج لاستغلال الأطفال.
قال ستيفن سوير ، مدير التلميح في المركز الكندي لحماية الطفل: “ما نراه ليس سوى غيض من فيض”.
مثل العديد من شركات التواصل الاجتماعي ، يقوم Discord بمسح الصور ومقاطع الفيديو التي تم تحميلها ويقارنها بقاعدة بيانات معروفة لمواد الاعتداء الجنسي على الأطفال ، لكنه يترك معظم وسائل الاعتدال الأخرى للمجتمعات نفسها. صرحت Discord بوضوح أنها لا تفحص بشكل استباقي معظم الرسائل التي يتم نشرها في مجتمعاتها.
وقال سيترون إن الذكاء الاصطناعي يمكن أن يساعد في حل بعض القضايا المتعلقة باستغلال الأطفال. قال: “أعتقد أن أحد التحديات التي يواجهها جميع الأشخاص في صناعتنا هو أن لدينا الكثير من الأشياء التي تحدث على نطاق واسع على المنصة ومن الصعب تحديد الأشياء”.
قال جون ريدجريف ، نائب رئيس الثقة والأمان في Discord ، لشبكة NBC News إن الشركة تعمل مع THORN ، وهي شركة مكرسة لبناء حلول تقنية لاكتشاف ومنع استغلال الأطفال ، على نموذج يمكنه اكتشاف سلوك الاستمالة.
تم انتقاد الذكاء الاصطناعي أيضًا ، مع ذلك ، لأنه يحتمل أن يؤدي إلى تفاقم مشكلات سلامة الأطفال.
هذا الشهر ، حذر مكتب التحقيقات الفدرالي من أن البالغين يستخدمون الذكاء الاصطناعي لتوليد صور تم التلاعب بها للأطفال بغرض الابتزاز الجنسي ، وابتزاز القاصرين بالصور للحصول على المزيد من المحتوى الجنسي أو المال.