أصبحت مراجعات المنتجات عبر الإنترنت ساحة معركة للذكاء الاصطناعي الحديث

في ساحة المعركة للمراجعات عبر الإنترنت ، هناك الذكاء الاصطناعي مقابل الذكاء الاصطناعي.

تقابل منظمة العفو الدولية المدربة على اكتشاف المراجعات المزيفة الذكاء الاصطناعي التوليدي الذي يمكن أن يبصق آراء بشرية. إنه نوع من الصدام الذي له آثار على المستهلكين بالإضافة إلى مستقبل المحتوى عبر الإنترنت.

قال سعود خليفة ، المؤسس والرئيس التنفيذي لشركة Fakespot ، وهي شركة ناشئة تستخدم الذكاء الاصطناعي للكشف عن المراجعات الاحتيالية ، إن شركته شهدت تدفقًا من المراجعات الوهمية الناتجة عن الذكاء الاصطناعي. يعمل Fakespot على طريقة لاكتشاف المحتوى المكتوب بواسطة منصات AI مثل ChatGPT.

وقال: “الشيء المختلف جدًا اليوم هو أن النماذج على دراية لدرجة أنه يمكنهم الكتابة عن أي شيء”.

كانت المراجعات المزيفة عبر الإنترنت موجودة منذ فترة طويلة مثل المراجعات الحقيقية عبر الإنترنت ، لكن القضية أصبحت ملحة جديدة بفضل المخاوف الأوسع حول تقنية الذكاء الاصطناعي المتقدمة المتوفرة الآن على نطاق واسع على الإنترنت.

بعد سنوات من مراقبة هذه القضية من خلال تطبيق كل حالة على حدة ، اقترحت لجنة التجارة الفيدرالية الشهر الماضي قاعدة جديدة للقضاء على المراجعات الاحتيالية. في حالة الموافقة عليها ، ستحظر القاعدة كتابة مراجعات زائفة ، ودفع المراجعات ، وإخفاء التعليقات الصادقة والممارسات الخادعة الأخرى – وفرض غرامات باهظة على من يخالفها.

ولكن ما هو مجرد استعراض مزيف أم لا أصبح الآن أقل وضوحًا ، ولا تزال التكنولوجيا للكشف عن المراجعات الاحتيالية عملاً قيد التقدم.

قال مايكل أتليسون ، المحامي في قسم ممارسات الإعلان في لجنة التجارة الفيدرالية ، “لا نعرف – في الحقيقة ليس لدينا طريقة لمعرفة – إلى أي مدى يستخدم الفاعلون السيئون بالفعل أيًا من هذه الأدوات ، ومقدار ما يمكن أن يتم إنشاؤه بواسطة الروبوت مقابل الذي تم إنشاؤه بواسطة الإنسان”. “إنه حقًا مصدر قلق كبير ، وهو مجرد صورة مصغرة للمخاوف من أن برامج الدردشة هذه ستُستخدم لإنشاء جميع أنواع المحتوى المزيف عبر الإنترنت.”

هناك بعض الدلائل على أن المراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي شائعة بالفعل. أفادت CNBC في أبريل أن بعض المراجعات على Amazon لديها مؤشرات واضحة على مشاركة الذكاء الاصطناعي ، حيث بدأ الكثير منها بعبارة “كنموذج للغة AI …”

تعد أمازون من بين العديد من البائعين عبر الإنترنت الذين كافحوا المراجعات المزيفة لسنوات. قال متحدث باسم الشركة إن الشركة تتلقى ملايين المراجعات كل أسبوع وأنها منعت بشكل استباقي 200 مليون تقييم مزيف مشتبه به في عام 2022. تستخدم الشركة مزيجًا من المحققين البشريين والذكاء الاصطناعي لاكتشاف المراجعات المزيفة ، باستخدام نماذج التعلم الآلي التي تحلل عوامل مثل سجل مراجعة المستخدم ونشاط تسجيل الدخول والعلاقة بحسابات أخرى.

ومما يزيد الأمر تعقيدًا حقيقة أن المراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي لا تتعارض تمامًا مع قواعد أمازون. قال متحدث باسم أمازون إن الشركة تسمح للعملاء بنشر المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي طالما أنها أصلية ولا تنتهك إرشادات السياسة.

أشار عملاق التجارة الإلكترونية أيضًا إلى أنه قد يحتاج إلى بعض المساعدة. في يونيو ، دعا دارميش ميهتا ، نائب رئيس أمازون لخدمات البيع الشريكة في جميع أنحاء العالم ، في منشور مدونة للشركة إلى مزيد من التعاون بين “القطاع الخاص ، ومجموعات المستهلكين ، والحكومات” لمعالجة المشكلة المتزايدة المتمثلة في المراجعات المزيفة.

السؤال الحاسم هو ما إذا كان اكتشاف الذكاء الاصطناعي سيكون قادرًا على التفوق على الذكاء الاصطناعي الذي ينشئ مراجعات مزيفة. قال خليفة إن أولى المراجعات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تم اكتشافها بواسطة Fakespot جاءت من الهند قبل بضعة أشهر ، وتم إنتاجها بواسطة ما يسميه “مزارع المراجعة الوهمية” – وهي الشركات التي تبيع المراجعات الاحتيالية بشكل جماعي. يتمتع الذكاء الاصطناعي التوليدي بالقدرة على تسهيل عملهم كثيرًا.

قال بهوان دينغرا ، الأستاذ المساعد في علوم الكمبيوتر بجامعة ديوك: “إنه بالتأكيد اختبار صعب لاجتيازه لأدوات الكشف هذه”. “لأنه إذا كانت النماذج مطابقة تمامًا للطريقة التي يكتب بها البشر شيئًا ما ، فلا يمكنك حقًا التمييز بين الاثنين. لا أتوقع أن أرى أي كاشف يجتاز الاختبار بألوان متطايرة في أي وقت قريب “.

وجدت العديد من الدراسات أن البشر ليسوا جيدين بشكل خاص في اكتشاف المراجعات المكتوبة بواسطة الذكاء الاصطناعي. يعمل العديد من التقنيين والشركات على أنظمة لاكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، وبعضها مثل OpenAI ، الشركة التي تقف وراء ChatGPT ، حتى أنها تعمل على الذكاء الاصطناعي لاكتشاف الذكاء الاصطناعي الخاص بها.

قال Ben Zhao ، أستاذ علوم الكمبيوتر في جامعة شيكاغو ، إنه “يكاد يكون من المستحيل” للذكاء الاصطناعي أن يرتقي إلى مستوى التحدي المتمثل في استبعاد المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، لأن المراجعات التي يتم إنشاؤها بواسطة الروبوت لا يمكن تمييزها غالبًا عن المراجعات البشرية.

قال: “إنها مطاردة مستمرة للقط والفأر ، ولكن لا يوجد شيء أساسي في نهاية اليوم يميز المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي”. “ستجد أنظمة تدعي أنها تستطيع التمييز بين النصوص المكتوبة بواسطة البشر مقابل نص ChatGPT. لكن التقنيات الكامنة وراءها كلها بسيطة إلى حد ما مقارنة بالشيء الذي يحاولون اللحاق به “.

مع قول 90٪ من المستهلكين إنهم قرأوا المراجعات أثناء التسوق عبر الإنترنت ، فإن هذا احتمال يثير قلق بعض المدافعين عن المستهلكين.

قالت تيريزا موراي ، التي تدير مكتب مراقبة المستهلك لمجموعة أبحاث المصلحة العامة الأمريكية: “إنه أمر مرعب بالنسبة للمستهلكين”. “بالفعل ، يساعد الذكاء الاصطناعي الشركات غير النزيهة على إصدار آراء واقعية بصوت محادثة بالآلاف في غضون ثوانٍ.”