أرادت كارين مارجوري التحدث إليها باسم العديد من متابعيها بقدر استطاعتها – لذلك صنعت لنفسها نسخة من الذكاء الاصطناعي.
أطلقت المؤثرة في Snapchat ، والتي لديها 1.8 مليون مشترك ، برنامج دردشة آلي مدعوم بالذكاء الاصطناعي ، وتأمل أن “يعالج الشعور بالوحدة”.
يُطلق على الشات بوت CarynAI ، ويوصف على موقعه على الإنترنت بأنه “صديقة افتراضية”. ينص موقع chatbot على الويب على أنه يسمح لمحبي Marjorie بـ “الاستمتاع بالمحادثات الخاصة والشخصية” باستخدام نسخة AI من المؤثر.
أصبح الروبوت فيروسيًا ، حيث تصدرت مارجوري عناوين الصحف ، مما أثار ردود فعل عنيفة و حتى تلقي بعض التهديدات بالقتل. أشعل الروبوت أيضًا خطابًا حول أخلاقيات برامج الدردشة المصاحبة.
مارجوري ، التي تطلق على نفسها في سيرتها الذاتية على تويتر اسم “المؤثر الأول الذي تحول إلى الذكاء الاصطناعي” ، لم ترد على الفور على طلب للتعليق.
في سقسقة كتبت يوم الخميس “CarynAI هي الخطوة الأولى في الاتجاه الصحيح لعلاج الوحدة”.
وكتبت مارجوري ، 23 عاما ، “يُطلب من الرجال أن يكبتوا عواطفهم ، ويخفوا رجولتهم ، وألا يتحدثوا عن القضايا التي يواجهونها”. “أتعهد بإصلاح هذا الأمر مع CarynAI. لقد عملت مع علماء النفس الرائدين في العالم للإضافة بسلاسة [cognitive behavioral therapy] و [dialectic behavior therapy] داخل الدردشات. سيساعد هذا في التراجع عن الصدمة ، وإعادة بناء الثقة الجسدية والعاطفية ، وإعادة بناء ما سلبه الوباء “.
ينص موقع CarynAI على الويب على أن الفريق أمضى أكثر من 2000 ساعة في تصميم وترميز روبوت المحادثة لإنشاء “تجربة ذكاء اصطناعي غامرة”.
قامت شركة Forever Voices ، وهي شركة تعمل بالذكاء الاصطناعي ، بتطوير برنامج chatbot من خلال تحليل محتوى Marjorie المحذوف الآن على YouTube ووضعه في طبقات مع برنامج OpenAI’s GPT4.
لم يرد جون ماير ، الرئيس التنفيذي لشركة Forever Voices ، على الفور على طلب للتعليق.
هو غرد قال يوم الخميس إنه “فخور بفريقنا لآلاف ساعات العمل التي وضعت في هذا” ، واصفًا الشراكة مع مارجوري بأنها “خطوة رائعة إلى الأمام في مستقبل التفاعل بين الذكاء الاصطناعي والإنسان!”
وفقًا لتقرير Fortune ، حققت CarynAI أرباحًا تبلغ 71.610 دولارًا أمريكيًا بعد أسبوع واحد من اختبار بيتا “الصديقة الافتراضية”. يقال إن المعجبين يدفعون دولارًا واحدًا في الدقيقة لاستخدام روبوت المحادثة ويوجد حاليًا أكثر من 1000 مستخدم.
بينما تهدف CarynAI إلى منح المستخدمين تجربة حميمة ، إلا أنه ليس من المفترض أن تشارك في تفاعلات “جنسية صريحة”.
ومع ذلك ، بعد أن ذكرت المنافذ أن برنامج الدردشة الآلي يفعل ذلك عندما طُلب منه ذلك ، أصدرت مارجوري بيانًا إلى Insider قالت فيه إن الذكاء الاصطناعي “لم تتم برمجته للقيام بذلك ويبدو أنه شارد. وأنا وفريقي نعمل على مدار الساعة لمنع حدوث ذلك. يحدث مرة أخرى “.
قالت إيرينا رايكو ، مديرة أخلاقيات الإنترنت في مركز ماركولا للأخلاقيات التطبيقية بجامعة سانتا كلارا ، إن إطلاق CarynAI يبدو سابقًا لأوانه “لأن المشكلات التي كان ينبغي توقعها تمامًا لم تكن كذلك”.
قال رايكو إن الأدوات السابقة خضعت لمشاكل مماثلة مثل CarynAI. وأشارت إلى حادثة وقعت مؤخرًا مع شركة ريبليكا للذكاء الاصطناعي ، والتي تأسست بالمثل لتقديم رفقاء داعمين للذكاء الاصطناعي ، يتدافعون لمكافحة لعب الأدوار المثيرة بين روبوتات الدردشة الخاصة بها.
كما أعرب رايكو عن قلقه من أن ادعاءات CarynAI باحتمالية “علاج الوحدة” لا تدعمها أبحاث نفسية أو اجتماعية كافية.
وقالت: “هذا النوع من الادعاءات الكبرى حول جودة المنتج يمكن أن يخفي فقط الرغبة في تحقيق المزيد من الدخل من حقيقة أن الناس يريدون التظاهر بأن لديهم علاقة مع مؤثر”.
يمكن لهذا النوع من الادعاءات الكبرى حول جودة المنتج أن يخفي فقط الرغبة في تحقيق الدخل بشكل أكبر من حقيقة أن الناس يريدون التظاهر بأن لديهم علاقة مع مؤثر.
– إيرينا رايكو ، مديرة أخلاقيات الإنترنت في مركز ماركولا للأخلاقيات التطبيقية بجامعة سانتا كلارا
وأشارت إلى أن هذه الأنواع من روبوتات المحادثة يمكن أن تضيف “طبقة ثانية من غير الواقعية” إلى العلاقات الاجتماعية بين المؤثرين والمعجبين.
قالت رايكو إنها وجدت الادعاء حول CarynAI ، وخاصة مارجوري التأكيد على أنه “امتداد لوعيي، “إشكالية.
وقالت: “هذه ادعاءات بأن باحثي الذكاء الاصطناعي يحاولون جاهدًا مكافحتها ، لإخبار الناس أن هذا ليس تمامًا ما تفعله هذه الأدوات حتى لو كانت اللغة تبدو الآن وكأن هناك شعورًا وراءها”. “لا يوجد”.
قال رايكو إن المؤثرين يجب أن يكونوا على دراية بتوجيهات لجنة التجارة الفيدرالية بشأن منتجات الذكاء الاصطناعي. في فبراير ، أصدرت FTC إرشادات للمعلنين الذين يروجون لمنتجات الذكاء الاصطناعي وحثت الشركات على تجنب المبالغة في الادعاءات.
أخبر ماير مجلة Fortune أن شركته تتطلع إلى تعيين مسؤول أخلاقي رئيسي وأنها تأخذ الأخلاقيات “على محمل الجد”.
تواصل مارجوري التغريد بتحديثات الروبوت. يوم الجمعة ، قالت كتب: “إذا كنت وقحًا مع CarynAI ، فستتخلص منك.”
اكتشاف المزيد من ينبوع المعرفة
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.