इन्फ्लुएंसर साथी के लिए ऐप बनाता है, एआई दुष्ट हो जाता है और सेक्स चैट करता है

नयी दिल्ली:

23 वर्षीय Caryn Marjorie, एक उद्यमी सोशल मीडिया इन्फ्लुएंसर है जिसके Snapchat पर 1.8 मिलियन से अधिक फॉलोअर्स हैं। कथित तौर पर उसके एक हजार से अधिक बॉयफ्रेंड हैं जिनके साथ वह अपनी अंतरंग भावनाओं के बारे में बात करती है और यहां तक ​​कि यौन रूप से स्पष्ट बातचीत में संलग्न होती है।

इसके अलावा, यह वह नहीं है जो अपने बॉयफ्रेंड को संदेश देती है बल्कि उसके व्यक्तित्व के आधार पर एक कृत्रिम बुद्धि-संचालित चैटबॉट है।

सुश्री मार्जोरी ने CarynAI नामक एक एआई संस्करण बनाया, जो एक आवाज-आधारित चैटबॉट है जो खुद को “आभासी प्रेमिका” के रूप में लेबल करता है। CarynAI के पास एक आवाज और व्यक्तित्व है जो उसके जैसा ही है कि लोग उसके साथ बातचीत करने के लिए $ 1 प्रति मिनट का भुगतान करने को तैयार हैं।

चैटबॉट के पास पहले से ही 1,000 से अधिक भुगतान करने वाले ग्राहक हैं। इस महीने की शुरुआत में बीटा परीक्षण के रूप में लॉन्च किया गया, CarynAI ने केवल एक सप्ताह में $71,610 राजस्व अर्जित किया, लगभग पूरी तरह से पुरुषों से।

हालांकि मूल रूप से ऐसा करने के लिए प्रोग्राम नहीं किया गया था, CarynAI दुष्ट हो गया और अपने भुगतान करने वाले ग्राहकों के साथ यौन आरोपित बातचीत में लिप्त हो गया।

इनसाइडर ने सुश्री मार्जोरी के हवाले से कहा, “एआई को ऐसा करने के लिए प्रोग्राम नहीं किया गया था और ऐसा लग रहा है कि वह दुष्ट हो गया है। मेरी टीम और मैं इसे फिर से होने से रोकने के लिए चौबीसों घंटे काम कर रहे हैं।”

इसकी आधिकारिक वेबसाइट के अनुसार, CarynAI को वास्तविक जीवन की मार्जोरी की आवाज, व्यवहार और व्यक्तित्व को फिर से बनाने के लिए डिज़ाइन किया गया है। चैटबॉट को 2,000 घंटे से अधिक की सामग्री खिलाकर विकसित किया गया था और यह 24/7 उपलब्ध है। CarynAI का दावा है कि यूजर्स को ऐसा लगेगा कि वे खुद इन्फ्लुएंसर से सीधे बात कर रहे हैं।

“हमने Caryn की भाषा और व्यक्तित्व को ध्यान से डिजाइन और कोड करने के लिए 2,000 से अधिक घंटे समर्पित किए हैं ताकि एक प्रभावशाली AI अनुभव हो सके। उसकी अनूठी आवाज, आकर्षक व्यक्तित्व और विशिष्ट व्यवहार का उपयोग करके, CarynAi आपके लिए एक गतिशील, एक तरह की बातचीत लाता है जो ऐसा महसूस होता है कि आप सीधे Caryn से बात कर रहे हैं। कभी भी, कहीं भी उपलब्ध, Caryn को आपकी सुविधा और आनंद के लिए AI में त्रुटिपूर्ण रूप से क्लोन किया गया है, “उसकी आधिकारिक वेबसाइट पढ़ती है।

फॉर्च्यून की रिपोर्ट है कि CarynAI ने Ms Marjorie के आधिकारिक YouTube चैनल से हटाए गए वीडियो का उपयोग किया और उन्हें OpenAI की GPT-4 API तकनीक के साथ स्तरित किया।

चैटबॉट की वेबसाइट का दावा है, “हमारा एंड-टू-एंड एन्क्रिप्शन सुनिश्चित करता है कि आपकी चैट गोपनीय और विशिष्ट रूप से आपकी रहे।”

जब से ChatGPT ने मानव जैसी सामग्री को मंथन करके दुनिया को चौंका दिया है, तब से एआई-संचालित चैटबॉट्स ने छलांग और सीमाएँ बढ़ा दी हैं, जिससे यह एक वैश्विक सनसनी बन गया है।

एक प्रमुख सीनेटर ने कैपिटल हिल पर एक कंप्यूटर जनित आवाज के साथ सुनवाई शुरू की, जो उल्लेखनीय रूप से उनकी आवाज के समान थी। आवाज ने एआई के विकास के बारे में सांसदों की गहरी आशंकाओं को व्यक्त करते हुए एक बॉट द्वारा लिखा गया पाठ पढ़ा।

OpenAI के सीईओ सैम अल्टमैन ने हाल ही में अमेरिकी सांसदों से कहा कि कृत्रिम बुद्धिमत्ता को विनियमित करना आवश्यक है।