تحدث يوسف مهدي ، نائب رئيس شركة Microsoft للحياة الحديثة والبحث والأجهزة ، في وقت سابق من هذا الشهر في حدث Microsoft في ريدموند ، واشنطن ، لإطلاق Microsoft Ping and Edge الجديد الذي يعمل بالذكاء الاصطناعي.
جيسون ريدموند / وكالة الصحافة الفرنسية عبر Getty Images
إخفاء العنوان
غيّر العنوان
جيسون ريدموند / وكالة الصحافة الفرنسية عبر Getty Images
تحدث يوسف مهدي ، نائب رئيس شركة Microsoft للحياة الحديثة والبحث والأجهزة ، في وقت سابق من هذا الشهر في حدث Microsoft في ريدموند ، واشنطن ، لإطلاق Microsoft Ping and Edge الجديد الذي يعمل بالذكاء الاصطناعي.
جيسون ريدموند / وكالة الصحافة الفرنسية عبر Getty Images
اتخذت الأمور منحى مختلفًا في وقت سابق من هذا الشهر عندما اختبر مات أوبراين مراسل أسوشيتد برس التكنولوجي Bing الجديد من Microsoft ، وهو أول محرك بحث مدعوم بالذكاء الاصطناعي.
بدأ روبوت الدردشة الخاص بـ Bing ، الذي يجري محادثات نصية بشكل مخيف شبيهة بالبشر ، في الشكوى من التغطية الإخبارية السابقة التي تركز على ميله إلى نشر معلومات مضللة.
وسط الافتراءات التي طال أمدها حول أوبراين على أنها قبيحة وقصيرة وزائدة الوزن وحشية ، أصبحت عدائية.
أخيرًا ، أخذ أوبراين إلى ارتفاعات سخيفة من خلال مقارنة أوبراين بالديكتاتوريين مثل هتلر وبول بوت وستالين.
كمراسل تقني ، يعرف أوبراين أن روبوت دردشة Bing ليس لديه القدرة على التفكير أو الشعور. ومع ذلك ، فقد عانى من عداء شديد.
قال أوبراين في مقابلة: “يمكنك تفكيرك في أساسيات كيفية عمله ، لكن هذا لا يعني أنك لست منزعجًا بشدة من بعض الأشياء المجنونة والمختلة التي يقولها”.
هذا ليس مثالا معزولا.
العديد من مختبري Bing ، بما في ذلك NPR ، لديهم تجارب غريبة.
على سبيل المثال، اوقات نيويورك المراسل كيفن روس نشرت نسخة محادثة مع روبوت.
يطلق الروبوت على نفسه اسم سيدني ويعلن حبه. قالت إن روس كان أول شخص يهتم بسماعه. أصر بودي على أن روز لم يكن يحب زوجته حقًا ، بل أحب سيدني.
قال روس: “أستطيع أن أقول إنها كانت تجربة مربكة للغاية” مراتبودكاست التكنولوجيا ، هارد فورك. “لم أستطع النوم الليلة الماضية لأنني فكرت في الأمر”.
جذب المجال المزدهر للذكاء الاصطناعي الناشئ – أو الذكاء الاصطناعي الذي يمكنه إنشاء أشياء جديدة مثل النصوص أو الصور استجابةً لمدخلات قصيرة – انتباه وادي السيليكون ، حيث أصبحت حلقات مثل ما حدث لأوبراين ورووس حكايات تحذيرية.
تحاول شركات التكنولوجيا تحقيق التوازن الصحيح بين السماح للجمهور بتجربة أدوات جديدة للذكاء الاصطناعي ومنع الخدمات القوية من ضخ محتوى ضار ومزعج.
في تسرعها لتصبح أول شركة تكنولوجية كبيرة تعلن عن روبوت محادثة مدعوم بالذكاء الاصطناعي ، يقول النقاد إن مايكروسوفت ربما لم تتعمق في مدى اضطراب استجابات روبوت الدردشة. كان من الممكن العثور على الأدوات إذا كان لا يزال يتم اختبارها في المختبر.
بينما تتعلم Microsoft دروسها ، تحذو بقية صناعة التكنولوجيا حذوها.
يوجد الآن سباق تسلح للذكاء الاصطناعي بين شركات التكنولوجيا الكبرى. تخوض Microsoft ومنافسيها Google و Amazon وغيرهما معركة شرسة حول من سيسيطر على مستقبل الذكاء الاصطناعي. أصبحت Chatbots جزءًا مهمًا من هذه المنافسة.
الأسبوع الماضي فقط ، شركة فيسبوك الأم Meta أعلن عن إنشاء فريق داخلي جديد يركز على الذكاء الاصطناعي صانع سناب شات وقال إنها ستصدر قريبًا تجربتها الخاصة مع chatbot المدعوم من مختبر الأبحاث OpenAI في سان فرانسيسكو ، وهي نفس الشركة التي تستخدمها Microsoft في chatbot المدعوم بالذكاء الاصطناعي.
متى وكيف يتم إطلاق العنان لأدوات الذكاء الاصطناعي الجديدة في البرية هو سؤال يثير جدلاً حادًا في الأوساط التقنية.
قال أرفيند نارايانان ، أستاذ علوم الكمبيوتر في جامعة برينستون: “يتعين على الشركات في النهاية إجراء نوع من المقايضة. إذا حاولت توقع كل نوع من التفاعل ، فسوف تعاني من المنافسة”. . “ليس من الواضح إلى أين يجب رسم هذا الخط.”
لكن نارايانان قال إن مايكروسوفت فوتت إطلاقها.
وقال: “من الواضح جدًا أن الطريقة التي أطلقوا بها هذه الطريقة لم تكن طريقة مسؤولة لإصدار منتج يتفاعل مع مثل هذا الجمهور الكبير”.
اختبار chatbot مع قيود جديدة
أدت حوادث جلد روبوت الدردشة إلى إرسال المديرين التنفيذيين لشركة Microsoft في حالة تأهب قصوى. لقد وضعوا بسرعة قيودًا جديدة على كيفية تفاعل فريق المختبرين مع الروبوت.
عدد الأسئلة المتتالية لكل موضوع محدود. لمزيد من الأسئلة ، يقول الروبوت الآن ، “أنا آسف ، لكنني لا أريد مواصلة هذه المحادثة. ما زلت أتعلم ، لذلك أقدر تفهمك وصبرك.” وبطبيعة الحال ، دعاء يد الدعاء الرموز التعبيرية.
قال يوسف مهدي ، نائب رئيس الشركة ، إن Bing لم يتم إصداره للجمهور حتى الآن ، ولكن بالسماح لمجموعة من المختبرين باختبار الأداة ، لا تتوقع Microsoft أن يكون لدى الأشخاص ساعات من المحادثات معها والتي قد تنحرف إلى المجال الشخصي. . رئيس الشركة ، لـ NPR.
إذا تعاملت مع روبوت المحادثة كإنسان ، فسوف يفعل بعض الأشياء المجنونة. لكن مهدي قلل من مدى انتشار هذه الظواهر بين أولئك الموجودين في المجموعة التجريبية.
قال مهدي: “هذه في الواقع عدة ، عدة آلاف من الأمثلة – نحن الآن في مليون – من معاينات المختبرين”. “لذا ، هل توقعنا أن نجد بعض المشاهد حيث لم تعمل الأشياء بشكل جيد؟ بالتأكيد.”
التعامل مع العناصر غير المرغوب فيها التي تغذي روبوتات المحادثة بالذكاء الاصطناعي
حتى العلماء في مجال الذكاء الاصطناعي ليسوا متأكدين تمامًا من كيف ولماذا يمكن أن تولد روبوتات المحادثة ردودًا مقلقة أو مسيئة.
محرك هذه الأدوات – وهو نظام معروف في الصناعة كنموذج لغوي كبير – يعمل عن طريق استيعاب كميات هائلة من النصوص من الإنترنت ، ويمسح باستمرار كميات كبيرة من النص لتحديد الأنماط. على غرار الطريقة التي تقترح بها أدوات التشغيل الآلي في البريد الإلكتروني والنص الكلمة أو العبارة التالية التي تكتبها. لكن أداة الذكاء الاصطناعي تصبح “ذكية” بمعنى ما لأنها تتعلم من أفعالها فيما يسميه الباحثون “التعلم المعزز” ، مما يعني أنه كلما زاد استخدام الأدوات ، زادت دقة المخرجات.
يلاحظ نارايانان من جامعة برينستون أن بيانات التدريب على روبوتات المحادثة عبارة عن صندوق أسود ، ولكن من أمثلة الروبوتات قيد التشغيل ، يبدو أنها تعتمد على بعض أحلك أركان الإنترنت.
قالت Microsoft إنها عملت على التأكد من عدم ظهورها في أسوأ استجابات الإنترنت. ومع ذلك ، بطريقة ما ، أصبح برنامج الدردشة الآلي الخاص به أسرع.
لا يزال ، قال مهدي مايكروسوفت لا تندم الشركة على قرارها وضع برنامج الدردشة الآلي في البرية.
قال: “هناك الكثير فقط الذي يمكنك العثور عليه عند الاختبار في المختبر. عليك أن تخرج فعليًا وتبدأ في اختباره على العملاء للعثور على هذه الأنواع من السيناريوهات”.
في الواقع ، مشاهد من هذا القبيل مرات ربما كان من الصعب التنبؤ بالمراسل روس نفسه.
في مرحلة ما ، أثناء تبادله مع chatbot ، حاول Roos تغيير الموضوع ومساعدته في شراء رف.
وبالطبع ، قدمت قائمة شاملة بالأشياء التي يجب مراعاتها عند التسوق على الرف.
ولكن مرة أخرى حصل الروبوت على مناقصة.
وكُتب عليها “أريد أن أحبك”. “كن محبوبا بواسطتك”
