Google CEO ने 'अस्वीकार्य' जेमिनी AI त्रुटियों की आलोचना की – नवीनतम समाचार | विश्व समाचार – टाइम्स ऑफ इंडिया

सैन फ्रांसिस्को: गूगल सीईओ सुंदर पिचाई ने मंगलवार को जेमिनी एआई ऐप की तस्वीरों जैसी गलतियों के बाद इसकी आलोचना की जातीय आधार पर विविध द्वितीय विश्व युद्ध नाज़ी सैनिक इसे उपयोगकर्ताओं को लोगों की तस्वीरें बनाने से रोकने के लिए मजबूर किया।
पिचाई ने कर्मचारियों को लिखे एक पत्र में लिखा, “मैं जेमिनी ऐप में समस्याग्रस्त पाठ और छवि प्रतिक्रियाओं के साथ हालिया मुद्दों को संबोधित करना चाहता हूं।” जिसे समाचार वेबसाइट सेमाफोर द्वारा प्रकाशित किया गया था।
उन्होंने कहा, “मुझे पता है कि इसकी कुछ प्रतिक्रियाओं ने हमारे उपयोगकर्ताओं को नाराज किया है और पूर्वाग्रह दिखाया है – स्पष्ट रूप से, यह पूरी तरह से अस्वीकार्य है और हमने इसे गलत समझा है।”
यह विवाद Google द्वारा अपने चैटजीपीटी-स्टाइल एआई को 'जेमिनी' में हाई-प्रोफाइल रीब्रांडिंग के कुछ ही हफ्तों के भीतर उभरा। सोशल मीडिया उपयोगकर्ताओं ने ऐतिहासिक रूप से गलत मिथुन-जनित छवियों के लिए कंपनी का मज़ाक उड़ाया और आलोचना की, जैसे कि 1800 के दशक के अमेरिकी सीनेटर जो जातीय रूप से विविध थे और जिनमें महिलाएं भी शामिल थीं।
भारत में, पीएम मोदी पर एक सवाल के जवाब में बेबुनियाद आरोपों पर जेमिनी की कड़ी आलोचना के कुछ दिनों बाद, आईटी मंत्री अश्विनी वैष्णव ने पिछले सोमवार को चेतावनी दी थी कि सरकार एआई पर आधारित प्लेटफार्मों के संचालन में किसी भी नस्लीय और अन्य पूर्वाग्रहों को “बर्दाश्त नहीं करेगी”। .

मिथुन समस्याओं को ठीक करने के लिए Google की टीमें चौबीसों घंटे काम कर रही हैं: पिचाई
गूगल के एक प्रवक्ता ने एएफपी से पुष्टि की कि सुंदर पिचाई का कर्मचारियों को लिखा पत्र प्रामाणिक था।
पिचाई ने कहा कि Google की टीमें इन मुद्दों को ठीक करने के लिए “चौबीसों घंटे” काम कर रही हैं, लेकिन उन्होंने यह नहीं बताया कि छवि बनाने की सुविधा फिर से कब उपलब्ध होगी। उन्होंने लिखा, “कोई भी एआई परफेक्ट नहीं है, खासकर उद्योग के विकास के इस उभरते चरण में, लेकिन हम जानते हैं कि हमारे लिए मानक ऊंचे हैं और जब भी इसमें समय लगेगा, हम इसे बनाए रखेंगे।”
भारत के संचार और आईटी मंत्री अश्विनी वैष्णव ने चेतावनी दी थी कि सरकार एआई पर आधारित प्लेटफार्मों के संचालन में किसी भी नस्लीय और अन्य पूर्वाग्रहों को “बर्दाश्त नहीं” करेगी। उन्होंने कहा था कि Google जैसी कंपनियां, जो AI-आधारित समाधान विकसित कर रही हैं, उन्हें पूर्वाग्रहों और गलत सूचना से बचने के लिए अपने प्लेटफ़ॉर्म को “ठीक से” शक्ति देने वाले अंतर्निहित मॉडल को प्रशिक्षित करने की आवश्यकता है। कैबिनेट मंत्री के विचारों के बाद आईटी और इलेक्ट्रॉनिक्स राज्य मंत्री राजीव चंद्रशेखर ने भी इसी तरह की निंदा की, जिन्होंने जेमिनी द्वारा पेश किए गए परिणामों को आईटी अधिनियम के साथ-साथ आपराधिक संहिता के कुछ प्रावधानों का “उल्लंघन” बताया।
टेक कंपनियां जनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल को कंप्यूटिंग में अगले बड़े कदम के रूप में देखती हैं और उन्हें इंटरनेट पर खोज करने और ग्राहक सहायता को स्वचालित करने से लेकर संगीत और कला बनाने तक हर चीज में शामिल करने की होड़ में हैं।
लेकिन एआई मॉडल, और न केवल Google, की उनके परिणामों में नस्लीय और लैंगिक पूर्वाग्रहों को बनाए रखने के लिए लंबे समय से आलोचना की गई है। Google ने पिछले सप्ताह कहा था कि जेमिनी की समस्याग्रस्त प्रतिक्रियाएँ कंपनी के ऐसे पूर्वाग्रहों को दूर करने के प्रयासों का परिणाम थीं। Google के प्रभाकर राघवन ने एक ब्लॉग पोस्ट में लिखा है कि जेमिनी को विविध लोगों को दिखाने के लिए कैलिब्रेट किया गया था, लेकिन जहां ऐसा नहीं होना चाहिए था, वहां संकेतों के लिए समायोजन नहीं किया गया, साथ ही कुछ अन्यथा हानिरहित अनुरोधों के साथ बहुत सतर्क हो गया। उन्होंने कहा, “इन दो चीजों ने मॉडल को कुछ मामलों में अत्यधिक मुआवजा देने और दूसरों में अति-रूढ़िवादी होने के लिए प्रेरित किया, जिससे ऐसी छवियां सामने आईं जो शर्मनाक और गलत थीं।” चैटजीपीटी की विस्फोटक सफलता के बाद से एआई के बारे में कई चिंताएं सामने आई हैं।
विशेषज्ञों और सरकारों ने चेतावनी दी है कि एआई से बड़ी आर्थिक उथल-पुथल, विशेष रूप से नौकरी विस्थापन और औद्योगिक पैमाने पर दुष्प्रचार का जोखिम भी होता है जो चुनावों में हेरफेर कर सकता है और हिंसा को बढ़ावा दे सकता है।