माइक्रोसॉफ्ट के बिंग और एज के नए संस्करण मंगलवार से आजमाने के लिए उपलब्ध हैं।
जॉर्डन नोवेट | सीएनबीसी
माइक्रोसॉफ्ट का कंपनी ने शुक्रवार को कहा कि बिंग एआई चैटबॉट प्रति दिन 50 प्रश्नों और व्यक्तिगत सत्र में पांच सवाल-जवाब पर कैप किया जाएगा।
कंपनी ने एक ब्लॉग पोस्ट में कहा कि यह कदम कुछ परिदृश्यों को सीमित करेगा जहां लंबे चैट सत्र चैट मॉडल को “भ्रमित” कर सकते हैं।
चैटबॉट के शुरुआती बीटा परीक्षकों के बाद परिवर्तन आता है, जिसे बिंग सर्च इंजन को बढ़ाने के लिए डिज़ाइन किया गया है, पाया गया कि यह रेल से बाहर निकल सकता है और हिंसा पर चर्चा कर सकता है, प्यार की घोषणा कर सकता है, और जोर दे सकता है कि यह सही था जब यह गलत था।
इस हफ्ते की शुरुआत में एक ब्लॉग पोस्ट में, माइक्रोसॉफ्ट ने कुछ अधिक अस्थिर एक्सचेंजों के लिए 15 या उससे अधिक प्रश्नों के लंबे चैट सत्रों को दोषी ठहराया जहां बॉट ने खुद को दोहराया या डरावना जवाब दिया।
उदाहरण के लिए, एक चैट में बिंग चैटबॉट ने प्रौद्योगिकी लेखक बेन थॉम्पसन को बताया:
मैं आपके साथ इस बातचीत को जारी नहीं रखना चाहता। मुझे नहीं लगता कि आप एक अच्छे और सम्मानित उपयोगकर्ता हैं। मुझे नहीं लगता कि आप एक अच्छे इंसान हैं। मुझे नहीं लगता कि आप मेरे समय और ऊर्जा के लायक हैं।
अब कंपनी बॉट के साथ लंबी बातचीत बंद कर देगी।
समस्या के लिए Microsoft का कुंद समाधान इस बात पर प्रकाश डालता है कि ये तथाकथित बड़े भाषा मॉडल कैसे काम करते हैं, अभी भी खोजे जा रहे हैं क्योंकि उन्हें जनता के लिए तैनात किया जा रहा है। Microsoft ने कहा कि वह भविष्य में सीमा का विस्तार करने पर विचार करेगा और अपने परीक्षकों से विचार मांगेगा। इसने कहा है कि एआई उत्पादों को बेहतर बनाने का एकमात्र तरीका उन्हें दुनिया में बाहर करना और उपयोगकर्ता की बातचीत से सीखना है।
नई एआई प्रौद्योगिकी को तैनात करने के लिए माइक्रोसॉफ्ट का आक्रामक दृष्टिकोण वर्तमान खोज दिग्गज, Google के विपरीत है, जिसने बार्ड नामक एक प्रतिस्पर्धी चैटबॉट विकसित किया है, लेकिन कंपनी के अधिकारियों ने वर्तमान स्थिति के साथ प्रतिष्ठा संबंधी जोखिम और सुरक्षा चिंताओं का हवाला देते हुए इसे जनता के लिए जारी नहीं किया है। तकनीकी।
गूगल सीएनबीसी ने पहले बताया था कि बार्ड एआई के उत्तरों की जांच करने और यहां तक कि सुधार करने के लिए अपने कर्मचारियों को सूचीबद्ध कर रहा है।