سان فرانسيسكو – قال رئيس قسم الثقة والأمان في Discord يوم الثلاثاء إن منصة الدردشة الشهيرة كانت تغير وتوضح سياساتها المتعلقة بسلامة الأطفال بما في ذلك تلك المتعلقة بمواعدة المراهقين ومواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، وهو إعلان يأتي بعد تحقيق NBC News الشهر الماضي في سلامة الأطفال على المنصة.
قال جون ريدجريف ، نائب الرئيس للثقة والأمان في Discord ، إن Discord كانت توسع سياساتها لمعالجة الذكاء الاصطناعي التوليدي. يمكنها إنشاء محتوى مزيف وإضفاء الطابع الجنسي على الأطفال ، وتحديداً حظر تصوير الذكاء الاصطناعي للاعتداء الجنسي على الأطفال وحتى استغلال الأطفال جنسياً في الدردشات النصية. ذكرت صحيفة واشنطن بوست في يونيو أن الصور الجنسية للأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي انتشرت عبر الإنترنت في الأشهر الأخيرة.
كان Discord مركزًا للمجتمعات المكرسة لإنشاء صور الذكاء الاصطناعي التوليدية واستضاف العديد من عمليات الدمج التي تسمح للمستخدمين بإنشائها. غالبًا ما يتم إنشاء صور ذات طابع جنسي على تلك الخوادم.
قالت الشركة في منشور على مدونة تعلن عن التغييرات أن سياسة مواد الاعتداء الجنسي على الأطفال المحدثة ستشمل “أي نص أو محتوى إعلامي يصور الأطفال جنسيًا ، بما في ذلك المواد المرسومة والواقعية والواقعية التي تم إنشاؤها بواسطة الذكاء الاصطناعي. الهدف من هذا التحديث هو ضمان عدم تطبيع الجهات الفاعلة السيئة لإضفاء الطابع الجنسي على الأطفال في أي سياق “.
قال Redgrave أيضًا أن الشركة كانت تجري تغييرات وتوضيحات في السياسة لحظر المواعدة بين المراهقين صراحة ، وهو ما قاله الخبراء سابقًا لشبكة NBC News يمثل فرصة كبيرة للبالغين الذين يتطلعون إلى استغلال الأطفال أو تهيئتهم.
كتبت Discord في مدونتها: “في هذا السياق ، نعتقد أيضًا أن المواعدة عبر الإنترنت يمكن أن تؤدي إلى تعريض الذات للخطر. بموجب هذه السياسة ، يُحظر استخدام خوادم المواعدة للمراهقين على النظام الأساسي وسنتخذ إجراءً ضد المستخدمين الذين يشاركون في هذا السلوك “.
قال ريدغريف في عرض تقديمي في TrustCon ، وهو مؤتمر لمهنيي الثقة والسلامة عُقد في سان فرانسيسكو ، إن الشركة رأت أن مثل هذه العلاقات عبر الإنترنت تشكل خطرًا كبيرًا على الشباب.
وقال: “لم نعد نسمح بمواعدة المراهقين على منصتنا لأننا ندرك أن ملاحقة الحيوانات المفترسة للمراهقين سبب كبير في الضرر”.
كانت إرشادات Discord قد قالت بالفعل إن الشركة “ستزيل المساحات التي تشجع أو تسهل المواعدة بين المراهقين”. في يونيو ، وجد تحقيق أجرته قناة NBC News المئات من خوادم Discord التي بدت وكأنها تروج لمواد تتعلق بإساءة معاملة الأطفال ، وبعض الخوادم التي أعلنت عن نفسها على أنها خوادم للمراهقين أو الأطفال الذين طلبوا صورًا عارية من القصر. بالإضافة إلى ذلك ، حددت NBC News 35 حالة على مدى السنوات الست الماضية تمت فيها محاكمة البالغين بتهمة الاختطاف أو الاستمالة أو الاعتداء الجنسي التي يُزعم أنها تنطوي على اتصالات على Discord.
حددت NBC News 165 حالة إضافية ، بما في ذلك أربع حلقات جريمة مزعومة حوكم فيها بالغون بسبب إرسال أو تلقي مواد الاعتداء الجنسي على الأطفال عبر Discord ، أو بزعم استخدام المنصة لابتزاز الأطفال لإرسال صور جنسية لأنفسهم ، والمعروف أيضًا باسم الابتزاز الجنسي. .
أشار Redgrave إلى أن الشركة كانت تقوم أيضًا بتحديث سياساتها لحظر حالات المراهقين الأكبر سنًا الذين يستعدون للمراهقين الأصغر سنًا. في منشور المدونة ، قالت الشركة ، “سيتم مراجعة المراهقين الأكبر سنًا الذين ينخرطون في العناية بمراهق أصغر سنا واتخاذ إجراءات بموجب سياسة السلوك الجنسي غير اللائق مع الأطفال والاستمالة.”
كجزء من تحديثات سياستها ، أعلنت Discord عن إطلاق المزيد من أدوات الرقابة الأبوية. في أداة Family Center الجديدة ، يمكن للوالدين والأطفال الاشتراك ليحصل الآباء على تحديثات حول أنشطة أطفالهم على المنصة.