सैम ऑल्टमैन का राक्षस: ओपनएआई चैटजीपीटी 4 से डर गया है जो अब मानवीय चेहरों को पहचान और ‘पढ़’ सकता है
सैम अल्टमैन के ओपनएआई को अब डर लगने लगा है कि उनका चैटजीपीटी 4 कितना सक्षम है। जो एक परियोजना के रूप में शुरू हुई थी, जिससे दृष्टिबाधित लोगों को मदद मिलती, अब पता चला है कि ओपनएआई का एआई मॉडल बहुत शक्तिशाली हो गया है, शायद बहुत शक्तिशाली हो गया है
OpenAI के ChatGPT में हालिया प्रगति, विशेष रूप से GPT-4 की शुरूआत ने, टेक्स्ट-आधारित इंटरैक्शन से परे इसकी क्षमताओं का विस्तार किया है। एक उल्लेखनीय अतिरिक्त छवि विश्लेषण है, जो उपयोगकर्ताओं को दृश्य सामग्री का उपयोग करके चैटबॉट के साथ जुड़ने की अनुमति देता है। इस अपडेट के साथ, उपयोगकर्ता छवियों का वर्णन कर सकते हैं, उनके बारे में प्रश्न पूछ सकते हैं और यहां तक कि विशिष्ट व्यक्तियों की पहचान करने के लिए चेहरे की पहचान का उपयोग भी कर सकते हैं।
इस प्रौद्योगिकी के संभावित अनुप्रयोग विशाल और आशाजनक हैं। यह छवियों का विश्लेषण करके या खराब दाने की पहचान करके और उसके बारे में जानकारी प्रदान करके खराब कार इंजन की समस्या का निवारण करने जैसे कार्यों में उपयोगकर्ताओं की सहायता कर सकता है। ये विकास छवि-संबंधित चुनौतियों का समाधान करने और समस्या-समाधान क्षमताओं को बढ़ाने के लिए एआई का लाभ उठाने की नई संभावनाएं खोलते हैं।
एक नेत्रहीन रोजगार एजेंसी के सीईओ जोनाथन मोसेन चैटजीपीटी के उन्नत संस्करण को अपनाने वाले शुरुआती व्यक्ति रहे हैं। हाल की एक यात्रा के दौरान, उन्हें चैटबॉट की विज़ुअल विश्लेषण सुविधा का पता लगाने का अवसर मिला। चैटजीपीटी की सहायता से, मोसेन पारंपरिक छवि विश्लेषण सॉफ्टवेयर की क्षमताओं को पार करते हुए, होटल के बाथरूम में विभिन्न डिस्पेंसरों की सामग्री को पहचानने और समझने में सक्षम था।
संबंधित आलेख
फिर भी, चेहरे की पहचान के मामले में OpenAI सावधानी बरत रहा है। जबकि चैटबॉट की दृश्य विश्लेषण सुविधा कुछ सार्वजनिक हस्तियों की पहचान कर सकती है, कंपनी चेहरे की पहचान तकनीक से जुड़ी नैतिक और कानूनी चिंताओं से पूरी तरह अवगत है, खासकर गोपनीयता और सहमति के संबंध में। परिणामस्वरूप, OpenAI ने मोसेन को व्यक्तियों के चेहरों के बारे में जानकारी प्रदान करना बंद करने का निर्णय लिया है।
ओपनएआई की एक नीति शोधकर्ता संधिनी अग्रवाल, चैटबॉट में दृश्य विश्लेषण क्षमताओं के एकीकरण के संबंध में जनता के साथ पारदर्शी चर्चा में शामिल होने के लिए कंपनी की प्रतिबद्धता व्यक्त करती हैं। ओपनएआई सक्रिय रूप से स्पष्ट दिशानिर्देश स्थापित करने और सुरक्षा उपायों को लागू करने के लिए उपयोगकर्ताओं से प्रतिक्रिया और लोकतांत्रिक इनपुट मांगता है। इसके अलावा, ओपनएआई की गैर-लाभकारी शाखा एआई सिस्टम के लिए नियमों को परिभाषित करने, जिम्मेदार और नैतिक प्रथाओं को सुनिश्चित करने की प्रक्रिया में जनता को शामिल करने के तरीकों की खोज कर रही है।
मॉडल के प्रशिक्षण डेटा पर विचार करते हुए, चैटजीपीटी में दृश्य विश्लेषण का एकीकरण एक स्वाभाविक प्रगति है, जिसमें इंटरनेट से एकत्र किए गए पाठ और चित्र दोनों शामिल हैं। हालाँकि, OpenAI इस विकास के साथ आने वाली संभावित चुनौतियों को पहचानता है।
ऐसी ही एक चुनौती “मतिभ्रम” की संभावना है, जहां सिस्टम छवियों के जवाब में भ्रामक या गलत जानकारी उत्पन्न कर सकता है। उदाहरण के लिए, जब प्रसिद्धि के कगार पर किसी व्यक्ति की तस्वीर प्रस्तुत की जाती है, तो चैटबॉट गलती से एक अलग उल्लेखनीय व्यक्ति का नाम प्रदान कर सकता है।
OpenAI में एक प्रमुख निवेशक के रूप में, Microsoft के पास विज़ुअल विश्लेषण टूल तक भी पहुंच है और वर्तमान में वह अपने बिंग चैटबॉट पर सीमित परीक्षण कर रहा है। ओपनएआई और माइक्रोसॉफ्ट दोनों विज़ुअल विश्लेषण सुविधा के व्यापक कार्यान्वयन पर विचार करने से पहले उपयोगकर्ता की गोपनीयता की रक्षा करने और चिंताओं को दूर करने के लिए सावधानी से आगे बढ़ रहे हैं।