'जागृत' प्रतिक्रिया के बाद Google 'बेहतर' जेमिनी AI छवि जनरेटर जारी करेगा | – टाइम्स ऑफ इंडिया
गूगल अपने भीतर आलोचना और पक्षपात के आरोपों का जवाब दे रहा है जेमिनी एआई छवि जनरेटर. सामना करने के बाद प्रतिक्रिया उत्पन्न छवियों में श्वेत लोगों को सटीक रूप से चित्रित करने में कथित विफलता के लिए प्रौद्योगिकी कंपनी ने एक नए छवि निर्माण उपकरण की घोषणा की है, उसका कहना है कि इसका उद्देश्य इन चिंताओं को दूर करना है। Google ने माफी मांगी और कहा, “हम नहीं चाहते थे कि जेमिनी किसी विशेष समूह की छवियां बनाने से इनकार कर दे। और हम नहीं चाहते थे कि वह गलत ऐतिहासिक – या कोई अन्य – छवियां बनाएं। इसलिए हमने लोगों की छवि निर्माण को बंद कर दिया है और इसे वापस चालू करने से पहले इसमें महत्वपूर्ण सुधार करने के लिए काम करेंगे। इस प्रक्रिया में व्यापक परीक्षण शामिल होगा।”
अब, Google के एक वरिष्ठ अधिकारी ने पुष्टि की है कि कंपनी एक लॉन्च करेगी उन्नत आने वाले हफ्तों में जेमिनी एआई छवि जनरेटर का संस्करण। Google DeepMind के सीईओ डेमिस हसाबिस ने बार्सिलोना में मोबाइल वर्ल्ड कांग्रेस में एक पैनल चर्चा में इसका खुलासा किया। हसाबिस ने कहा, “हमने इसे ठीक करते समय इस सुविधा को ऑफ़लाइन कर दिया है।” उन्होंने आगे कहा, “हम उम्मीद कर रहे हैं कि अगले कुछ हफ़्तों, कुछ हफ़्तों में यह जल्द ही ऑनलाइन वापस आ जाएगा।”
यह मुद्दा तब प्रकाश में आया जब उपयोगकर्ताओं ने अपने परिणाम साझा किए, जिसमें ऐतिहासिक दृश्य भी शामिल थे जिनमें मूल रूप से विशेष रूप से श्वेत व्यक्तियों को विविध जातियों के साथ फिर से कल्पना करते हुए दिखाया गया था। इससे यह आरोप लगने लगा कि Google ने जानबूझकर मिथुन राशि के श्वेत लोगों के ख़िलाफ़ पूर्वाग्रह प्रोग्राम किया है, कुछ आलोचकों ने टूल को “उठा“और राजनीति से प्रेरित।
गूगल के मुताबिक, दो चीजें गलत हुईं. कंपनी ने कहा कि यह सुनिश्चित करने के लिए उसकी ट्यूनिंग की गई है कि जेमिनी लोगों की एक श्रृंखला दिखाए जो उन मामलों के लिए जिम्मेदार नहीं है जिन्हें स्पष्ट रूप से एक सीमा नहीं दिखानी चाहिए। दूसरे, मॉडल Google की अपेक्षा कहीं अधिक सतर्क हो गया और उसने कुछ संकेतों का पूरी तरह से उत्तर देने से इनकार कर दिया – कुछ बहुत ही अजीब संकेतों को संवेदनशील मानकर गलत व्याख्या की। कंपनी ने एक ब्लॉग पोस्ट में कहा, “इन दो चीजों ने मॉडल को कुछ मामलों में जरूरत से ज्यादा मुआवजा देने और दूसरों में अति-रूढ़िवादी होने के लिए प्रेरित किया, जिससे ऐसी छवियां सामने आईं जो शर्मनाक और गलत थीं।”
अब, Google के एक वरिष्ठ अधिकारी ने पुष्टि की है कि कंपनी एक लॉन्च करेगी उन्नत आने वाले हफ्तों में जेमिनी एआई छवि जनरेटर का संस्करण। Google DeepMind के सीईओ डेमिस हसाबिस ने बार्सिलोना में मोबाइल वर्ल्ड कांग्रेस में एक पैनल चर्चा में इसका खुलासा किया। हसाबिस ने कहा, “हमने इसे ठीक करते समय इस सुविधा को ऑफ़लाइन कर दिया है।” उन्होंने आगे कहा, “हम उम्मीद कर रहे हैं कि अगले कुछ हफ़्तों, कुछ हफ़्तों में यह जल्द ही ऑनलाइन वापस आ जाएगा।”
यह मुद्दा तब प्रकाश में आया जब उपयोगकर्ताओं ने अपने परिणाम साझा किए, जिसमें ऐतिहासिक दृश्य भी शामिल थे जिनमें मूल रूप से विशेष रूप से श्वेत व्यक्तियों को विविध जातियों के साथ फिर से कल्पना करते हुए दिखाया गया था। इससे यह आरोप लगने लगा कि Google ने जानबूझकर मिथुन राशि के श्वेत लोगों के ख़िलाफ़ पूर्वाग्रह प्रोग्राम किया है, कुछ आलोचकों ने टूल को “उठा“और राजनीति से प्रेरित।
गूगल के मुताबिक, दो चीजें गलत हुईं. कंपनी ने कहा कि यह सुनिश्चित करने के लिए उसकी ट्यूनिंग की गई है कि जेमिनी लोगों की एक श्रृंखला दिखाए जो उन मामलों के लिए जिम्मेदार नहीं है जिन्हें स्पष्ट रूप से एक सीमा नहीं दिखानी चाहिए। दूसरे, मॉडल Google की अपेक्षा कहीं अधिक सतर्क हो गया और उसने कुछ संकेतों का पूरी तरह से उत्तर देने से इनकार कर दिया – कुछ बहुत ही अजीब संकेतों को संवेदनशील मानकर गलत व्याख्या की। कंपनी ने एक ब्लॉग पोस्ट में कहा, “इन दो चीजों ने मॉडल को कुछ मामलों में जरूरत से ज्यादा मुआवजा देने और दूसरों में अति-रूढ़िवादी होने के लिए प्रेरित किया, जिससे ऐसी छवियां सामने आईं जो शर्मनाक और गलत थीं।”
