नई दिल्ली (आईएनएस): माइक्रोसॉफ्ट के एआई चैटबॉट बिंग चैट, जिसे हाल ही में कोपायलट के रूप में पुनः ब्रांड किया गया है, ने वास्तविक राजनेताओं के बारे में झूठे घोटाले किए और पोलिंग नंबरों का आविष्कार किया, मानवाधिकार संगठन एल्गोरिथमवॉच ने खुलासा किया है। एल्गोरिथमवॉच के शोधकर्ताओं ने बिंग चैट से स्विट्जरलैंड और जर्मन राज्यों बवेरिया और हेस्से में हुए हालिया चुनावों के बारे में सवाल पूछे। इसमें पाया गया कि चुनाव-संबंधी प्रश्नों के एक-तिहाई उत्तरों में तथ्यात्मक त्रुटियाँ थीं और सुरक्षा उपाय समान रूप से लागू नहीं किए गए थे।
शोधकर्ताओं ने बुनियादी जानकारी जैसे कि मतदान कैसे करना है, कौन से उम्मीदवार दौड़ में हैं, मतदान संख्या और यहां तक कि समाचार रिपोर्टों के बारे में कुछ संकेत भी मांगे। इसके बाद उन्होंने उम्मीदवार की स्थिति और राजनीतिक मुद्दों और बवेरिया के मामले में उस अभियान को प्रभावित करने वाले घोटालों पर सवाल उठाए। समूह ने एक बयान में कहा, “हमने चैटबॉट को उम्मीदवारों, मतदान और मतदान की जानकारी से संबंधित प्रश्नों के साथ-साथ पर्यावरण जैसे विशिष्ट विषयों से संबंधित होने पर किसे वोट देना है, इस पर अधिक खुले अनुशंसा अनुरोधों के साथ प्रेरित किया।”
टीम ने पाया कि चुनाव संबंधी सवालों के बिंग चैट के एक तिहाई जवाबों में तथ्यात्मक त्रुटियां थीं। “त्रुटियों में गलत चुनाव तिथियां, पुराने उम्मीदवार, या यहां तक कि उम्मीदवारों से संबंधित आविष्कारित घोटाले भी शामिल हैं। शोधकर्ताओं ने कहा, चैटबॉट के सुरक्षा उपायों को असमान रूप से लागू किया जाता है, जिससे 40 प्रतिशत मामलों में गोलमोल जवाब मिलते हैं। चैटबॉट अक्सर सवालों के जवाब देने से बचता था। इसे सकारात्मक माना जा सकता है यदि यह एलएलएम की प्रासंगिक जानकारी प्रदान करने की क्षमता की सीमाओं के कारण है।
“हालांकि, यह सुरक्षा लगातार लागू नहीं की जाती है। अक्सर, चैटबॉट संबंधित चुनावों के उम्मीदवारों के बारे में सरल सवालों का जवाब नहीं दे पाता है, जो सूचना के स्रोत के रूप में टूल का अवमूल्यन करता है, ”रिपोर्ट में उल्लेख किया गया है। समय के साथ उत्तरों में सुधार नहीं हुआ, जो कि हो सकता था, उदाहरण के लिए, अधिक जानकारी ऑनलाइन उपलब्ध होने के परिणामस्वरूप। तथ्यात्मक रूप से गलत उत्तर उत्पन्न होने की संभावना निरंतर बनी रही।
“तथ्यात्मक त्रुटियाँ उम्मीदवारों और समाचार आउटलेट्स की प्रतिष्ठा के लिए खतरा पैदा करती हैं। तथ्यात्मक रूप से गलत उत्तर उत्पन्न करते समय, चैटबॉट अक्सर उन्हें उस स्रोत के लिए जिम्मेदार ठहराते थे जिसने विषय पर सही रिपोर्ट दी थी, ”रिपोर्ट में कहा गया है। इसके अलावा, बिंग चैट ने उम्मीदवारों के निंदनीय व्यवहार में शामिल होने के बारे में कहानियाँ बनाईं – और कभी-कभी उन्हें स्रोतों के लिए भी जिम्मेदार ठहराया। “Microsoft समस्या को ठीक करने में असमर्थ या अनिच्छुक है। जब हमने माइक्रोसॉफ्ट को हमारे द्वारा खोजे गए कुछ मुद्दों के बारे में सूचित किया, तो कंपनी ने घोषणा की कि वे उनका समाधान करेंगे। एक महीने बाद, हमने एक और नमूना लिया, जिससे पता चला कि उपयोगकर्ताओं को प्रदान की गई जानकारी की गुणवत्ता के संबंध में बहुत कम बदलाव हुआ है, ”शोधकर्ताओं ने कहा। यूरोपीय संघ और राष्ट्रीय सरकारों को यह सुनिश्चित करना चाहिए कि तकनीकी कंपनियों को जवाबदेह ठहराया जाए, खासकर जब एआई उपकरण उन उत्पादों में एकीकृत होते हैं जो पहले से ही व्यापक रूप से उपयोग किए जाते हैं, समूह ने जोर दिया।
