شخصية مؤثرة في Snapchat تطلق صديقة افتراضية مدعومة بالذكاء الاصطناعي للمساعدة في علاج الشعور بالوحدة

وفقًا لتقرير Fortune ، حققت CarynAI أرباحًا تبلغ 71.610 دولارًا أمريكيًا بعد أسبوع واحد من اختبار بيتا “الصديقة الافتراضية”. يقال إن المعجبين يدفعون دولارًا واحدًا في الدقيقة لاستخدام روبوت المحادثة ويوجد حاليًا أكثر من 1000 مستخدم.

بينما تهدف CarynAI إلى منح المستخدمين تجربة حميمة ، إلا أنه ليس من المفترض أن تشارك في تفاعلات “جنسية صريحة”.

ومع ذلك ، بعد أن ذكرت المنافذ أن برنامج الدردشة الآلي يفعل ذلك عندما طُلب منه ذلك ، أصدرت مارجوري بيانًا إلى Insider قالت فيه إن الذكاء الاصطناعي “لم تتم برمجته للقيام بذلك ويبدو أنه شارد. وأنا وفريقي نعمل على مدار الساعة لمنع حدوث ذلك. يحدث مرة أخرى “.

قالت إيرينا رايكو ، مديرة أخلاقيات الإنترنت في مركز ماركولا للأخلاقيات التطبيقية بجامعة سانتا كلارا ، إن إطلاق CarynAI يبدو سابقًا لأوانه “لأن المشكلات التي كان ينبغي توقعها تمامًا لم تكن كذلك”.

قال رايكو إن الأدوات السابقة خضعت لمشاكل مماثلة مثل CarynAI. وأشارت إلى حادثة وقعت مؤخرًا مع شركة ريبليكا للذكاء الاصطناعي ، والتي تأسست بالمثل لتقديم رفقاء داعمين للذكاء الاصطناعي ، يتدافعون لمكافحة لعب الأدوار المثيرة بين روبوتات الدردشة الخاصة بها.

كما أعرب رايكو عن قلقه من أن ادعاءات CarynAI باحتمالية “علاج الوحدة” لا تدعمها أبحاث نفسية أو اجتماعية كافية.

وقالت: “هذا النوع من الادعاءات الكبرى حول جودة المنتج يمكن أن يخفي فقط الرغبة في تحقيق المزيد من الدخل من حقيقة أن الناس يريدون التظاهر بأن لديهم علاقة مع مؤثر”.

وأشارت إلى أن هذه الأنواع من روبوتات المحادثة يمكن أن تضيف “طبقة ثانية من غير الواقعية” إلى العلاقات الاجتماعية بين المؤثرين والمعجبين.

قالت رايكو إنها وجدت الادعاء حول CarynAI ، وخاصة مارجوري التأكيد على أنه “امتداد لوعيي، “إشكالية.

وقالت: “هذه ادعاءات بأن باحثي الذكاء الاصطناعي يحاولون جاهدًا مكافحتها ، لإخبار الناس أن هذا ليس تمامًا ما تفعله هذه الأدوات حتى لو كانت اللغة تبدو الآن وكأن هناك شعورًا وراءها”. “لا يوجد”.

قال رايكو إن المؤثرين يجب أن يكونوا على دراية بتوجيهات لجنة التجارة الفيدرالية بشأن منتجات الذكاء الاصطناعي. في فبراير ، أصدرت FTC إرشادات للمعلنين الذين يروجون لمنتجات الذكاء الاصطناعي وحثت الشركات على تجنب المبالغة في الادعاءات.

أخبر ماير مجلة Fortune أن شركته تتطلع إلى تعيين مسؤول أخلاقي رئيسي وأنها تأخذ الأخلاقيات “على محمل الجد”.

تواصل مارجوري التغريد بتحديثات الروبوت. يوم الجمعة ، قالت كتب: “إذا كنت وقحًا مع CarynAI ، فستتخلص منك.”