चिंतित यूएस एसईसी का कहना है कि एआई चैटबॉट शेयर बाजार में हेरफेर कर सकते हैं और उसे अपूरणीय रूप से नष्ट कर सकते हैं
एआई पर निर्भर वित्तीय संस्थान इतना अच्छा विचार नहीं हो सकता है। न केवल एआई मतिभ्रम से गलत विश्लेषण हो सकता है, बल्कि एआई चैटबॉट भी बाजार में हेरफेर कर सकते हैं और इसे क्रैश कर सकते हैं।
वित्तीय बाजारों पर जेनेरिक एआई के संभावित प्रभाव ने अमेरिकी प्रतिभूति और विनिमय आयोग (एसईसी) के भीतर चिंताएं बढ़ा दी हैं।
सोमवार को नेशनल प्रेस क्लब में एक भाषण के दौरान, एसईसी के अध्यक्ष गैरी जेन्सलर ने जेनरेटिव एआई के बढ़ते प्रभाव के बारे में चिंता व्यक्त की। उन्होंने इस बात पर प्रकाश डाला कि कैसे इस तकनीक में हाल की प्रगति से संस्थान निर्णय लेने के लिए सीमित जानकारी पर निर्भर हो सकते हैं।
मतिभ्रम सुरक्षा की झूठी भावना पैदा कर सकता है
जेन्सलर ने इस बात पर जोर दिया कि डेटा और कंप्यूटिंग शक्ति की उच्च मांग के परिणामस्वरूप कुछ प्रमुख तकनीकी प्लेटफॉर्म इस क्षेत्र को नियंत्रित कर सकते हैं, इस प्रकार कंपनियों के लिए उपलब्ध एआई मॉडल की सीमा सीमित हो सकती है।
संबंधित आलेख
यदि कोई विशेष मॉडल गलत या अप्रासंगिक डेटा प्रदान करता है, तो वित्तीय संस्थान उसी दोषपूर्ण जानकारी के आधार पर अनजाने में त्रुटिपूर्ण निर्णय ले सकते हैं। यह स्थिति 2008 के वित्तीय संकट के समान स्थिति का जोखिम रखती है, जहां बैंकों ने क्रेडिट रेटिंगर्स के नेतृत्व का आँख बंद करके अनुसरण किया था या सिलिकॉन वैली बैंक पर ट्विटर-ईंधन के आगे झुक गए थे।
जेन्सलर ने वित्तीय क्षेत्र में केंद्रीकृत डेटासेट या मॉडल से जुड़े खतरों को रेखांकित करते हुए, ऐसे परिदृश्य के संभावित परिणामों और 2008 के संकट के बीच एक समानता खींची।
एआई सिस्टम को वित्तीय क्षेत्र में काफी समय से नियोजित किया गया है। बीमा कंपनियाँ और लेनदार ऋण निर्णयों के लिए वित्तीय डेटा का विश्लेषण करने के लिए एल्गोरिदम और प्राकृतिक भाषा प्रसंस्करण का उपयोग करते हैं। ट्रेडिंग कंपनियां धोखाधड़ी का पता लगाने और बाजार संकेतों को तेजी से पहचानने के लिए एआई पर भरोसा करती हैं।
वित्तीय बाजारों और उपकरणों पर एआई का प्रभाव
अपने भाषण में, जेन्सलर ने मुख्य रूप से बड़े भाषा मॉडल (एलएलएम) और जेनरेटिव एआई पर ध्यान केंद्रित किया, जिसे उन्होंने “हमारे समय की सबसे परिवर्तनकारी तकनीक” कहा। हालाँकि, उनकी चर्चा में कभी-कभी इन विशिष्ट तकनीकों को एआई की व्यापक श्रेणी के साथ मिश्रित किया जाता था, भले ही वे समान जोखिम और चिंताएँ पैदा नहीं करते थे। जेन्सलर ने स्वीकार किया कि जेनरेटिव एआई को अभी तक वित्त में व्यापक रूप से नहीं अपनाया गया है।
जेन्सलर द्वारा वित्तीय बाजारों पर एआई के प्रभाव के बारे में चिंता व्यक्त करने का यह पहला उदाहरण नहीं है। एमआईटी में अपने समय के दौरान, उन्होंने लिली बेली के साथ एक पेपर का सह-लेखन किया, जिसमें मौजूदा नियामक संरचनाओं के भीतर वित्त में एआई के उपयोग को विनियमित करने में चुनौतियों की जांच की गई।
एसईसी एआई विनियमन में सक्रिय रूप से शामिल रहा है और 2018 में एआई, क्रिप्टोकरेंसी और अन्य फिनटेक मामलों से संबंधित पूछताछ को संबोधित करने के लिए समर्पित एक संसाधन केंद्र फिनहब की स्थापना की है।
उभरती प्रौद्योगिकियाँ और कानून का उल्लंघन
एजेंसी ने उभरती प्रौद्योगिकियों, विशेष रूप से क्रिप्टो क्षेत्र में काम करने वाली कंपनियों के खिलाफ कानूनी कार्रवाई भी की है, अगर उन्हें कानून का उल्लंघन माना जाता है।
इसके अलावा, एसईसी स्वयं अपनी नीतियों को लागू करने के लिए बाजार निगरानी के लिए मशीन लर्निंग का उपयोग करता है।
जेन्सलर ने शक्तिशाली प्रौद्योगिकियों की प्रगति को समायोजित करने के लिए मौजूदा जोखिम प्रबंधन दिशानिर्देशों को अद्यतन करने की आवश्यकता पर बल दिया। हालाँकि, उन्होंने ऐसी प्रौद्योगिकियों के उपयोग के संबंध में वित्तीय उद्योग के भीतर सामूहिक पुनर्मूल्यांकन की संभावना का भी सुझाव दिया।
गौरतलब है कि अन्य सरकारी एजेंसियों ने भी एआई कंपनियों की जांच शुरू की है। हाल ही में, FTC ने OpenAI में अपनी जांच की घोषणा की।