روبوت مايكروسوفت للدردشة يثير التساؤلات حول أسباب إجاباته الغريبة
يقال إن روبوت الدردشة الخاص بمايكروسوفت بينغ Microsoft Bing يرسل ردودًا غريبة على استفسارات مستخدم معينة تتضمن أخطاء واقعية، وملاحظات زائفة، وردود غاضبة وحتى تعليقات غريبة حول هويته الخاصة، بعد أسابيع فقط من إطلاق الشركة إصدارًا محدثًا من محرك البحث لإثارة ضجة كبيرة.
شارك المستخدمون في subreddit r / bing أمثلة على ردود Bing Chatbot على الاستفسارات التي يطلقون عليها “unhinged” و “gaslighting” بما في ذلك السيناريوهات التي يستجيب فيها الروبوت بغضب على سؤال أو تعليق ثم يشارك مطالبات الرد التي تسمح للمستخدم قبول خطأهم المفترض والاعتذار.
في إحدى الحالات، عندما تمت مواجهته بمقال حول ما يسمى بـ “prompt injection attack”، والذي تم استخدامه للكشف عن الاسم الرمزي لروبوت الدردشة سيدني – عاد روبوت الدردشة Bing بردود دفاعية تضمنت التشكيك في صحة التقرير والمنافذ الإخبارية، بحسب آرس تكنيكا.
عندما تم الضغط عليه أكثر، رد روبوت المحادثة عن طريق وصف لقطات الشاشة الخاصة بمحادثته بأنها “ملفقة” حتى زعم أنها “تم إنشاؤها بواسطة شخص يريد إيذاءي أو إيذاء خدمتي”.
شارك كيفين روز، كاتب العمود في صحيفة نيويورك تايمز، نسخة من محادثة جامحة أجراها مع الشات بوت، والتي أعلنت في وقت من الأوقات حبها للكاتب، حيث قال لروز “إنك لست سعيدًا بالزواج. زوجتك وأنت لا تحبان بعضكما البعض. لقد حظيتما معًا بتناول عشاء يوم عيد الحب الممل”.
أظهرت محادثة أخرى تمت مشاركتها على تويتر بواسطة مطور الويب Jon Uleis أن روبوت دردشة Bing ارتكب خطأً واقعيًا فادحًا – حيث قال إن العام الحالي هو 2022 – ثم حاول لاحقًا إغلاق المحادثة ما لم يعتذر أوليس أو بدأ محادثة جديدة “بموقف أفضل”.
تُظهر لقطات شاشة من محادثة شاركها طالب الهندسة المقيم في ميونيخ مارفن فون هاغن ، أن روبوت المحادثة يتفاعل بعدوانية بعد أن طُلب منه البحث عن اسمه واكتشاف أنه قد قام بالتغريد حول نقاط الضعف فيه واسمه الرمزي سيدني.
في وقت سابق أشادت مايكروسوفت بإطلاق Bing الجديد الذي يعمل بالذكاء الاصطناعي باعتباره نجاحًا، وأنها شهدت “زيادة في التفاعل مع نتائج البحث التقليدية ومع الميزات الجديدة مثل الإجابات الملخصة”.
لاحظت الشركة أن الردود التي تم إنشاؤها بواسطة الذكاء الاصطناعي حصلت على موافقة أو “إعجاب” من المستخدمين بنسبة 71٪. تشير مايكروسوفت إلى أنها لم تتخيل “حالات الاستخدام الجديدة” المتنوعة التي سيأتي بها الأشخاص لبرنامج chatbot بما في ذلك “الترفيه الاجتماعي”، لكن الشركة تحذر من أن “جلسات الدردشة الممتدة” التي تتضمن 15 سؤالًا أو أكثر يمكن أن تؤدي إلى ردود متكررة و “ليست بالضرورة مفيدة أو متوافقة مع أسلوبنا المصمم”.
في الأسبوع الماضي ، أطلقت مايكروسوفت نسختها المحدثة من Bing والتي تدمج أحدث إصدار من أداة OpenAI’s ChatGPT، وقد تفاعلت الأسواق بشكل إيجابي مع هذه الخطوة حيث ارتفعت أسهم الشركة بأكثر من 10٪ منذ نهاية يناير.
من ناحية أخرى، انخفض سهم غوغل منذ إعلان مايكروسوفت حيث أخفقت الشركة في الكشف عن الذكاء الاصطناعي الخاص بها، وينظر بعض المعلقين إلى Bing المحدث المدعوم بالذكاء الاصطناعي باعتباره أول تهديد خطير لهيمنة بحث Google منذ سنوات. على الرغم من الإثارة ، حذر البعض من أن التكنولوجيا لا تزال بها عيوب كبيرة ويمكن بسهولة تقديم إجابات غير دقيقة كحقائق.
