एआई प्लेटफार्मों को परमिट की आवश्यकता है, गलत सूचना या पूर्वाग्रह के जोखिम के मामले में इनकार किया जा सकता है: सरकार – टाइम्स ऑफ इंडिया

नई दिल्ली: आम चुनाव नजदीक हैं और गूगल के एआई प्लेटफॉर्म जेमिनी द्वारा पीएम मोदी पर अप्रमाणित टिप्पणियों पर विवाद के बाद, सरकार ने शनिवार को कहा कि उसने कृत्रिम बुद्धिमत्ता के नेतृत्व वाली इंटरनेट कंपनियों के लिए किसी भी असत्यापित जानकारी को संभावित रूप से गलत और लेबल करने के लिए एक सलाह जारी की है। प्रवण त्रुटि।
सरकार ने कहा कि किसी भी एआई के नेतृत्व वाले सार्वजनिक सूचना मंच को भारत में अनुमति देने से पहले परमिट की आवश्यकता होगी, जबकि चेतावनी दी गई है कि वह संभावित जोखिमों के मामले में अनुमति देने से इनकार करने में संकोच नहीं करेगी। झूठी खबर या पूर्वाग्रह.

यह नोटिस सोशल मीडिया और इंटरनेट चैनलों पर कृत्रिम रूप से निर्मित सामग्री के प्रवाह की कई घटनाओं के बाद सरकार द्वारा डीपफेक के मामले पर एक सलाह जारी करने के लगभग ढाई महीने बाद आया है। नवीनतम सलाह में कहा गया है कि एआई के नेतृत्व वाले प्लेटफार्मों को गैरकानूनी, गलत सूचना या पक्षपातपूर्ण सामग्री नहीं फेंकनी चाहिए जिससे राष्ट्र की अखंडता या चुनावी प्रक्रिया को खतरा हो।

आईटी एवं इलेक्ट्रॉनिक्स राज्य मंत्री राजीव चन्द्रशेखर ने कहा एआई प्लेटफॉर्म जैसे कि OpenAI और Google के जेमिनी को सरकार के साथ-साथ भारत के डिजिटल नागरिकों के प्रति अपनी प्रतिक्रियाओं की प्रकृति के बारे में खुलासा करना होगा, जिसमें स्पष्ट रूप से उल्लेख करना होगा कि सामग्री झूठी, त्रुटि-प्रवण और गैरकानूनी हो सकती है क्योंकि मॉडल अभी भी परीक्षण और परीक्षण के अधीन है। .

“यदि आप एक अप्रयुक्त मंच हैं और आपको लगता है कि मंच अभी भी प्रशिक्षण के शुरुआती चरण में है और इसलिए अविश्वसनीय है, तो आपको तीन चीजें करने की ज़रूरत है। सबसे पहले, आपको सरकार को बताना होगा कि मैं इसे तैनात कर रहा हूं। दूसरा, आपको एक अस्वीकरण के माध्यम से उपभोक्ताओं को सूचित करना होगा कि मैं एक परीक्षणाधीन मंच हूं। तीसरा, आपको उस उपभोक्ता को इसका स्पष्ट रूप से उल्लेख करना होगा जो इसका उपयोग कर रहा है, और आपको प्लेटफ़ॉर्म का उपयोग करने के लिए उसकी सहमति प्राप्त करने की आवश्यकता है। उदाहरण के तौर पर गूगल जेमिनी को लें। यह तो बताना ही पड़ेगा

सरकार लॉन्च करने से पहले बता दें कि यह थोड़ा खराब प्लेटफॉर्म है।
यह पूछे जाने पर कि क्या सरकार के पास देश में ऐसे प्लेटफॉर्म के लॉन्च को अस्वीकार करने का अधिकार होगा यदि उसे यह अविश्वसनीय लगता है, तो चंद्रशेखर ने टीओआई से कहा, “अगर हमें लगता है कि इसमें अधिक जोखिम है तो हम इसे अस्वीकार कर सकते हैं। यह बहुत स्पष्ट है।”
उन्होंने कहा कि कंपनियां अक्सर यह पता चलने के बाद माफी मांगती हैं कि उनके प्लेटफॉर्म गलत और अविश्वसनीय जानकारी या पक्षपातपूर्ण परिणाम दे रहे हैं। “यह कोई बचाव नहीं है जो कोई कंपनी कर सकती है यदि वह एक असुरक्षित कार बनाती है, या यदि कोई दवा है जो आप लेते हैं और वह आपको बाद में प्रभाव देती है”।
मंत्री ने कहा कि ताजा सलाह सार्वजनिक इंटरनेट पर पूर्वाग्रह और भेदभाव को खत्म करने की बात करती है। “सलाहकार में कहा गया है कि आपके पास ऐसे मॉडल नहीं हो सकते हैं जो गैरकानूनी सामग्री का उत्पादन करते हैं और फिर बचाव करते हैं कि यह अप्रयुक्त और अविश्वसनीय है। यदि यह अविश्वसनीय और अपरीक्षित है, तो उपभोक्ता और सरकार को पहले ही बता दें।''
एडवाइजरी स्पष्ट रूप से अप्रमाणित और अविश्वसनीय सामग्री होस्ट करने के खिलाफ चेतावनी देती है। “सभी मध्यस्थों या प्लेटफार्मों को यह सुनिश्चित करना होगा कि अपने कंप्यूटर संसाधन पर या उसके माध्यम से आर्टिफिशियल इंटेलिजेंस मॉडल/एलएलएम/जेनरेटिव एआई, सॉफ्टवेयर या एल्गोरिदम का उपयोग अपने उपयोगकर्ताओं को होस्ट करने, प्रदर्शित करने, अपलोड करने, संशोधित करने की अनुमति नहीं देता है। , किसी भी गैरकानूनी सामग्री को प्रकाशित, प्रसारित, संग्रहीत, अद्यतन या साझा करें… प्रावधानों का अनुपालन न करने पर दंडात्मक परिणाम होंगे।”