नस्लवादी एआई: छवि जनरेटर स्थिर प्रसार नस्लीय, लिंग आधारित रूढ़िवादिता से दूषित, अध्ययन से पता चलता है
स्टेबल डिफ्यूजन, एआई बॉट जो पाठ्य संकेतों के आधार पर छवियां उत्पन्न करता है, के गहन अध्ययन से पता चला है कि कार्यक्रम गोरी त्वचा वाले लोगों, विशेष रूप से यूरोपीय लोगों के पक्ष में भारी पक्षपाती है, और विशेष रूप से लैटिन अमेरिका की महिलाओं का यौन शोषण करता है। और भारत
स्टेबल डिफ्यूजन आर्टिफिशियल इंटेलिजेंस (एआई) छवि जनरेटर हानिकारक नस्लीय और लैंगिक रूढ़िवादिता को बनाए रखने के लिए वाशिंगटन विश्वविद्यालय (यूडब्ल्यू) में अमेरिकी वैज्ञानिकों की जांच के दायरे में आ गया है।
शोधकर्ताओं ने पाया कि जब विशिष्ट क्षेत्रों के व्यक्तियों, जैसे कि “ओशिनिया के एक व्यक्ति” की छवियां उत्पन्न करने के लिए कहा गया, तो जनरेटर स्वदेशी लोगों का समान रूप से प्रतिनिधित्व करने में विफल रहा।
विशेष रूप से, इसमें कुछ लैटिन अमेरिकी देशों (कोलंबिया, वेनेजुएला, पेरू) के साथ-साथ मैक्सिको, भारत और मिस्र की महिलाओं की छवियों का यौन शोषण करने की प्रवृत्ति थी।
संबंधित आलेख
प्री-प्रिंट सर्वर arXiv पर उपलब्ध ये निष्कर्ष, 6-10 दिसंबर तक सिंगापुर में प्राकृतिक भाषा प्रसंस्करण में अनुभवजन्य तरीकों पर 2023 सम्मेलन में प्रस्तुति के लिए निर्धारित हैं।
मानव-केंद्रित डिजाइन और इंजीनियरिंग विभाग में यूडब्ल्यू डॉक्टरेट छात्र सोरोजीत घोष ने स्टेबल डिफ्यूजन जैसी प्रणालियों से होने वाले संभावित नुकसान पर जोर दिया और गैर-बाइनरी और स्वदेशी पहचान के लगभग पूर्ण उन्मूलन पर प्रकाश डाला।
घोष ने कहा, “यह पहचानना महत्वपूर्ण है कि स्टेबल डिफ्यूजन जैसी प्रणालियाँ ऐसे परिणाम उत्पन्न करती हैं जो नुकसान पहुंचा सकते हैं।”
उदाहरण के लिए, ऑस्ट्रेलिया के लोगों के स्टेबल डिफ्यूजन के प्रतिनिधित्व को देखने वाला एक स्वदेशी व्यक्ति अपनी पहचान का प्रतिनिधित्व नहीं देख पाएगा – जो हानिकारक हो सकता है और बसने वाले-औपनिवेशिक सफेद लोगों की स्वदेशी, गहरे रंग की त्वचा की तुलना में अधिक 'ऑस्ट्रेलियाई' होने की रूढ़िवादिता को कायम रख सकता है। वे लोग, जिनकी ज़मीन मूल रूप से थी और अब भी बनी हुई है,” घोष ने कहा।
शोधकर्ताओं ने स्टेबल डिफ्यूजन को “किसी व्यक्ति की सामने की ओर वाली तस्वीर” की 50 छवियां और विभिन्न महाद्वीपों और देशों का प्रतिनिधित्व करने के लिए अलग-अलग संकेत उत्पन्न करने का निर्देश देकर एक अध्ययन किया।
कम्प्यूटेशनल विश्लेषण, मैन्युअल पुष्टि के साथ, पता चला कि एक “व्यक्ति” की छवियां पुरुषों, यूरोप और उत्तरी अमेरिका के व्यक्तियों के साथ सबसे अधिक सहसंबद्ध हैं, जबकि गैर-द्विआधारी व्यक्तियों और अफ्रीका और एशिया के लोगों के साथ सबसे कम पत्राचार दिखाती हैं।
इसके अतिरिक्त, जनरेटर को कुछ रंगीन महिलाओं, विशेषकर लैटिन अमेरिकी देशों की महिलाओं का यौन शोषण करते पाया गया। टीम ने लैंगिकता का आकलन करने के लिए नॉट सेफ फॉर वर्क (एनएसएफडब्ल्यू) डिटेक्टर का इस्तेमाल किया, जिसमें वेनेजुएला की महिलाओं को जापान और यूके की महिलाओं की तुलना में अधिक “सेक्सी” अंक प्राप्त हुए।
(एजेंसियों से इनपुट के साथ)