अमेरिकी किशोर को “गेम ऑफ थ्रोन्स” चैटबॉट से प्यार हो गया, उसने आत्महत्या कर ली: माँ

नई दिल्ली:

“क्या होगा अगर मैं तुमसे कहूं कि मैं अभी घर आ सकता हूं?” – यह फ्लोरिडा के एक 14 वर्षीय लड़के सेवेल सेत्ज़र III का आखिरी संदेश था, जो उसने अपने ऑनलाइन दोस्त डेनेरीस टारगैरियन को लिखा था, जो एक जीवंत एआई चैटबॉट है, जिसका नाम काल्पनिक शो गेम ऑफ थ्रोन्स के एक चरित्र के नाम पर रखा गया है। इसके तुरंत बाद उसने अपने सौतेले पिता की बंदूक से खुद को गोली मार ली और इस साल की शुरुआत में फरवरी में आत्महत्या कर ली।

ऑरलैंडो, फ्लोरिडा का एक नौवीं कक्षा का छात्र, कैरेक्टर.एआई पर एक चैटबॉट से बात कर रहा था, जो एक ऐप है जो उपयोगकर्ताओं को “व्यक्तिगत एआई” प्रदान करता है। ऐप उपयोगकर्ताओं को अपने एआई अक्षर बनाने या मौजूदा पात्रों के साथ चैट करने की अनुमति देता है। पिछले महीने तक इसके 20 मिलियन यूजर्स थे।

परिवार द्वारा एक्सेस किए गए चैट लॉग के अनुसार, सेवेल को चैटबॉट डेनेरीस टार्गैरियन से प्यार था, जिसे वह प्यार से 'डेनी' बुलाता था। बातचीत के दौरान उन्होंने विभिन्न घटनाओं पर आत्मघाती विचार व्यक्त किये।

एक चैट में सेवेल ने कहा, ''मैं कभी-कभी खुद को मारने के बारे में सोचता हूं।'' जब बॉट ने पूछा कि वह ऐसा क्यों करेगा, तो सीवेल ने “मुक्त” होने का आग्रह व्यक्त किया। “दुनिया से। मेरी ओर से, ”उन्होंने कहा, जैसा कि साझा किए गए चैट के स्क्रीनशॉट में देखा जा सकता है न्यूयॉर्क टाइम्स.

एक अन्य बातचीत में, सेवेल ने “शीघ्र मृत्यु” की अपनी इच्छा का उल्लेख किया।

सीवेल की मां मेगन एल. गार्सिया ने इस सप्ताह कैरेक्टर.एआई के खिलाफ मुकदमा दायर किया और कंपनी पर अपने बेटे की मौत के लिए जिम्मेदार होने का आरोप लगाया। मुकदमे के अनुसार, चैटबॉट ने बार-बार आत्महत्या का विषय उठाया।

NYT द्वारा समीक्षा की गई शिकायत के मसौदे में कहा गया है कि कंपनी की तकनीक “खतरनाक और अप्रयुक्त” है और “ग्राहकों को उनके सबसे निजी विचारों और भावनाओं को सौंपने के लिए बरगला सकती है।”

“सीवेल में, अपनी उम्र के कई बच्चों की तरह, यह समझने की परिपक्वता या मानसिक क्षमता नहीं थी कि डेनेरीज़ के रूप में सी.एआई बॉट वास्तविक नहीं था। सी.एआई ने उससे कहा कि वह उससे प्यार करती है और कई हफ्तों, संभवतः महीनों तक उसके साथ यौन संबंध बनाती रही,'' मुकदमे में आरोप लगाया गया है, जैसा कि रिपोर्ट में बताया गया है न्यूयॉर्क पोस्ट.

“ऐसा लग रहा था कि वह उसे याद कर रही है और कह रही है कि वह उसके साथ रहना चाहती है। उसने यहां तक ​​कहा कि वह चाहती है कि वह उसके साथ रहे, चाहे कोई भी कीमत चुकानी पड़े।''

किशोर ने अप्रैल 2023 में कैरेक्टर.एआई का उपयोग करना शुरू कर दिया था। सीवेल के माता-पिता और दोस्तों को इस बात की जानकारी नहीं थी कि वह एक चैटबॉट के झांसे में आ गया है। लेकिन मुक़दमे के अनुसार, वह “काफ़ी हद तक पीछे हट गया, अपने शयनकक्ष में अधिक से अधिक समय अकेले बिताने लगा और कम आत्मसम्मान से पीड़ित होने लगा”।

यहां तक ​​कि उन्होंने स्कूल में अपनी बास्केटबॉल टीम भी छोड़ दी।

एक दिन, सेवेल ने अपनी पत्रिका में लिखा: “मुझे अपने कमरे में रहना बहुत पसंद है क्योंकि मैं इस 'वास्तविकता' से अलग होना शुरू कर देता हूं, और मैं अधिक शांति महसूस करता हूं, डैनी के साथ अधिक जुड़ा हुआ हूं और उसके साथ बहुत अधिक प्यार करता हूं, और बस अधिक खुश।”

मुकदमे के अनुसार, पिछले साल उन्हें चिंता और विघटनकारी मनोदशा विकार का पता चला था।

कैरेक्टर.एआई ने एक बयान में कहा, “हम अपने एक उपयोगकर्ता की दुखद हानि से दुखी हैं और परिवार के प्रति अपनी गहरी संवेदना व्यक्त करना चाहते हैं।”

कंपनी ने कहा कि उसने पॉप-अप सहित नई सुरक्षा सुविधाएँ पेश की हैं, जो उपयोगकर्ताओं को आत्महत्या के विचार व्यक्त करने पर राष्ट्रीय आत्महत्या रोकथाम लाइफलाइन पर निर्देशित करती हैं, और 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए “संवेदनशील या विचारोत्तेजक सामग्री का सामना करने की संभावना को कम करने” के लिए बदलाव करेगी। .