केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) को एक कड़ा और निर्णायक नोटिस जारी। किया है, जिसमें उसकी आर्टिफिशियल इंटेलिजेंस सेवा 'Grok' के दुरुपयोग पर गंभीर चिंता व्यक्त की गई है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स कॉर्प को तत्काल प्रभाव से अश्लील और आपत्तिजनक सामग्री को हटाने का आदेश दिया है, जो Grok AI का उपयोग करके बनाई और साझा की जा रही है। इस नोटिस में 72 घंटे के भीतर एक विस्तृत कार्रवाई रिपोर्ट (ATR) प्रस्तुत करने की भी मांग की गई है, जिसमें अनुपालन न करने पर कड़ी कानूनी कार्रवाई की चेतावनी दी गई है। यह कदम डिजिटल प्लेटफॉर्म पर सामग्री विनियमन के प्रति सरकार के सख्त रुख को दर्शाता है।
मंत्रालय का कड़ा रुख और कानूनी आधार
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 के तहत एक्स कॉर्प को यह वैधानिक नोटिस जारी किया है। मंत्रालय ने स्पष्ट रूप से कहा है कि एक्स कॉर्प अपने वैधानिक उचित सावधानी दायित्वों का पालन करने में विफल रहा है। ये दायित्व डिजिटल प्लेटफॉर्म पर उपयोगकर्ताओं की सुरक्षा सुनिश्चित करने, आपत्तिजनक सामग्री को नियंत्रित करने और भारतीय कानूनों का पालन करने के लिए महत्वपूर्ण हैं। नोटिस में यह भी रेखांकित किया गया है कि एक्स को भारतीय नागरिक सुरक्षा संहिता (BNSS),। 2023 के तहत अनिवार्य रिपोर्टिंग के अनुपालन का विवरण भी अपनी कार्रवाई रिपोर्ट में शामिल करना होगा। यह कानूनी ढांचा डिजिटल स्पेस में सुरक्षा और जवाबदेही सुनिश्चित करने के लिए सरकार की प्रतिबद्धता को दर्शाता है।
फर्जी खातों का उपयोग और प्लेटफॉर्म की विफलता
मंत्रालय ने विशेष रूप से Grok AI के दुरुपयोग पर चिंता व्यक्त की है, जिसका उपयोग महिलाओं को लक्षित करके अश्लील, अभद्र और यौन रूप से स्पष्ट सामग्री बनाने और साझा करने के लिए किया जा रहा है। पत्र में इस बात पर प्रकाश डाला गया है कि उपयोगकर्ताओं ने Grok की AI क्षमताओं का दुरुपयोग। करके अपमानजनक तरीके से कृत्रिम चित्र और वीडियो बनाए हैं, जिससे निजता और गरिमा का गंभीर उल्लंघन हुआ है। यह सामग्री न केवल आपत्तिजनक है, बल्कि यह यौन उत्पीड़न को सामान्य बनाती है और समाज में महिलाओं के प्रति गलत धारणाओं को बढ़ावा देती है और सरकार ने इस बात पर जोर दिया है कि ऐसे कृत्य कानूनी सुरक्षा उपायों को कमजोर करते हैं और ऑनलाइन उत्पीड़न के बढ़ते खतरे को बढ़ाते हैं।
सरकार ने अपने पत्र में फर्जी खातों के माध्यम से Grok AI के दुरुपयोग का भी जिक्र किया है। यह देखा गया है कि Grok AI का उपयोग करके महिलाओं की अश्लील तस्वीरों और वीडियो को अपमानजनक या भद्दे तरीके से पेश करने और पोस्ट करने के लिए अक्सर फर्जी खातों का सहारा लिया जा रहा है। यह स्थिति प्लेटफॉर्म की सुरक्षा उपायों और सिस्टम की गंभीर विफलता को दर्शाती है। मंत्रालय ने कहा है कि यह मामला केवल फर्जी आईडी तक सीमित नहीं है, बल्कि Grok के जरिए। उन महिलाओं को भी निशाना बनाया जाता है जो अपनी तस्वीर या वीडियो सोशल मीडिया पर पोस्ट करती हैं। ऐसी स्थिति में Grok AI के जरिए उनकी तस्वीर के साथ छेड़छाड़ की जाती है और कभी-कभी अश्लील रूप में पेश किया जाता है, जिससे उनकी निजता और गरिमा का हनन होता है।
प्रियंका चतुर्वेदी का पत्र और सार्वजनिक चिंताएं
इस मामले में, शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने भी आईटी मंत्रालय को पत्र लिखकर Grok AI के दुरुपयोग पर चिंता व्यक्त की थी और उनके पत्र ने इस मुद्दे को और अधिक प्रमुखता दी और सरकार को इस पर तत्काल ध्यान देने के लिए प्रेरित किया। मंत्रालय ने अपने नोटिस में इस बात का भी उल्लेख किया है कि समय-समय पर सार्वजनिक चर्चाओं और विभिन्न संसदीय हितधारकों की ओर से दिए गए आवेदनों के साथ। एक्स को यह बताया गया है कि उसके प्लेटफॉर्म पर प्रसारित होने वाली कुछ श्रेणियों की सामग्री शालीनता और अश्लीलता से संबंधित लागू कानूनों का अनुपालन नहीं कर रही हैं। यह दर्शाता है कि यह मुद्दा केवल एक हालिया घटना नहीं है, बल्कि डिजिटल प्लेटफॉर्म। पर सामग्री मॉडरेशन को लेकर लंबे समय से चली आ रही चिंताओं का हिस्सा है।
कार्रवाई रिपोर्ट और भविष्य की चेतावनी
सरकार ने एक्स कॉर्प को 72 घंटों के भीतर एक विस्तृत कार्रवाई रिपोर्ट (ATR) भेजने का आदेश दिया है। इस रिपोर्ट में अपनाए गए उपायों, मुख्य अनुपालन अधिकारी की भूमिका और भारतीय नागरिक सुरक्षा संहिता (BNSS), 2023 के तहत अनिवार्य रिपोर्टिंग के अनुपालन का विवरण होना चाहिए। मंत्रालय ने स्पष्ट रूप से चेतावनी दी है कि यदि एक्स द्वारा कोई कार्यवाही नहीं की जाती है या संतोषजनक रिपोर्ट प्रस्तुत नहीं की जाती है, तो उस पर कड़ी कार्यवाही की जाएगी और यह चेतावनी प्लेटफॉर्म को अपनी जिम्मेदारियों को गंभीरता से लेने और भारतीय कानूनों का पूरी तरह से पालन करने के लिए प्रेरित करती है। सरकार का यह कदम ऑनलाइन सुरक्षा सुनिश्चित करने और डिजिटल प्लेटफॉर्म को जवाबदेह ठहराने की दिशा में एक महत्वपूर्ण पहल है।
