सोशल मीडिया प्लेटफॉर्म X ने अपने AI टूल Grok से उत्पन्न अश्लील सामग्री के मामले में अपनी गलती स्वीकार कर ली है। कंपनी ने भारत सरकार को यह आश्वासन दिया है कि वह भारतीय कानूनों के हिसाब से। काम करेगी और भविष्य में ऐसी घटनाओं को रोकने के लिए अपने सिस्टम को मजबूत करेगी। इस विवाद के बाद, X ने 600 से अधिक अकाउंट्स को प्लेटफॉर्म से हटा दिया है और लगभग 3,500 आपत्तिजनक पोस्ट को ब्लॉक किया है। यह कदम ऑनलाइन अश्लीलता और महिलाओं को निशाना बनाए जाने के मामलों पर बढ़ती चिंताओं के बीच उठाया गया है।
Grok AI विवाद का पूरा मामला
भारत सरकार ने हाल ही में X के AI टूल Grok के जरिए अश्लील और आपत्तिजनक कंटेंट फैलने पर गंभीर चिंता व्यक्त की थी। सरकारी एजेंसियों ने यह बताया था कि Grok का दुरुपयोग न केवल फर्जी प्रोफाइल बनाने में किया जा रहा था, बल्कि महिलाओं को परेशान करने और उन्हें ऑनलाइन निशाना बनाने में भी इसका इस्तेमाल हो रहा था और इसमें इमेज एडिटिंग, सिंथेटिक कंटेंट और गलत प्रॉम्प्ट्स के माध्यम से महिलाओं की तस्वीरों और वीडियो का गलत तरीके से इस्तेमाल किया जा रहा था, जिससे उनकी निजता और सुरक्षा को खतरा पैदा हो रहा था। इसी गंभीर मुद्दे को लेकर सरकार ने X को कड़ी कार्रवाई की चेतावनी दी थी और एक विस्तृत रिपोर्ट मांगी थी।
X द्वारा की गई त्वरित कार्रवाई
सरकारी सूत्रों के अनुसार, इस मामले में X ने लगभग 3,500 आपत्तिजनक पोस्ट को ब्लॉक किया है, जो Grok AI से संबंधित थे। इसके साथ ही, 600 से अधिक ऐसे अकाउंट्स को भी प्लेटफॉर्म से स्थायी रूप से हटा दिया गया है, जो अश्लील या गैरकानूनी कंटेंट फैलाने में सक्रिय रूप से शामिल पाए गए थे। X ने भारत सरकार को यह भी सूचित किया है कि वह आगे से इस तरह के कंटेंट को रोकने के लिए अपने सिस्टम और मॉनिटरिंग प्रक्रियाओं को और अधिक मजबूत करेगा। कंपनी का दावा है कि अब ऐसे आपत्तिजनक कंटेंट को ज्यादा तेजी से पहचानकर हटाया जाएगा, ताकि प्लेटफॉर्म पर सुरक्षित माहौल बना रहे।
सरकार की सख्ती और समय-सीमा
इस मामले में सरकार ने शुरू से ही कड़ा रुख अपनाया था। 2 जनवरी को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को स्पष्ट आदेश दिया था कि वह Grok से जुड़े सभी अश्लील, भद्दे और गैरकानूनी कंटेंट को तुरंत हटाए और मंत्रालय ने चेतावनी दी थी कि यदि ऐसा नहीं किया गया, तो सूचना प्रौद्योगिकी अधिनियम (IT Act) और अन्य संबंधित कानूनों के तहत कड़ी कार्रवाई की जाएगी। X को 72 घंटे के भीतर एक विस्तृत एक्शन टेकन रिपोर्ट (ATR) प्रस्तुत करने को कहा गया था, जिसमें तकनीकी और प्रशासनिक दोनों तरह के कदमों की जानकारी देनी थी। 8 जनवरी को X ने अपनी रिपोर्ट सौंपी, जिसे सरकार ने विस्तृत तो बताया, लेकिन पर्याप्त नहीं माना। इसके बाद X को अपनी रिपोर्ट में सुधार के लिए 72 घंटे का अतिरिक्त समय दिया गया था।
कंटेंट मॉडरेशन में अपेक्षित बदलाव
सरकारी सूत्रों के मुताबिक, X ने अब यह भरोसा दिया है कि वह भारतीय नियमों के तहत अपने कंटेंट मॉडरेशन सिस्टम को और अधिक सख्त करेगा और कंपनी ने कहा है कि अब आपत्तिजनक कंटेंट, ऐसे कंटेंट पोस्ट करने वाले यूजर्स और संबंधित अकाउंट्स पर पहले से कहीं अधिक तेजी से कार्रवाई की जाएगी। इसके अलावा, अनिवार्य रिपोर्टिंग और निगरानी के लिए बेहतर सिस्टम बनाए जाएंगे, जिससे प्लेटफॉर्म पर अवैध और अश्लील सामग्री के प्रसार को प्रभावी ढंग से रोका जा सके। यह कदम ऑनलाइन सुरक्षा सुनिश्चित करने की दिशा में एक महत्वपूर्ण प्रयास है।
पहला जवाब क्यों था अपर्याप्त
इससे पहले, सरकार ने ‘एक्स’ से Grok AI से जुड़ी अश्लील सामग्री पर की गई विशिष्ट कार्रवाई और भविष्य में ऐसी पुनरावृत्ति को रोकने के उपायों सहित विस्तृत जानकारी मांगी थी, क्योंकि इस मंच द्वारा दिए गए पहले जवाब को सरकार ने अपर्याप्त पाया था। पहले नोटिस के जवाब में ‘एक्स’ ने भ्रामक पोस्ट और गैर-सहमति से प्राप्त यौन उत्तेजक छवियों से संबंधित पोस्ट के मामले में अपनी सख्त सामग्री हटाने की नीतियों की रूपरेखा प्रस्तुत की थी। हालांकि, यह जवाब लंबा और विस्तृत था, लेकिन इसमें कुछ महत्वपूर्ण जानकारियां छूट गई थीं, जिनमें Grok AI की अश्लील सामग्री के मुद्दे पर की गई सीधी कार्रवाई और भविष्य में इसे रोकने के लिए अपनाए जाने वाले विशिष्ट उपाय शामिल नहीं थे।
अवैध सामग्री पर X की कड़ी चेतावनी
दो जनवरी को सूचना प्रौद्योगिकी मंत्रालय ने ‘ग्रोक’ और अन्य उपकरणों जैसी AI-आधारित सेवाओं के दुरुपयोग के माध्यम से उत्पन्न की जा रही अश्लील और यौन सामग्री के संबंध में ‘एक्स’ को कड़ी चेतावनी जारी की थी। इस सोशल मीडिया मंच के ‘सेफ्टी’ हैंडल ने पिछले रविवार को कहा कि वह अपने मंच पर। अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) भी शामिल है, के खिलाफ कड़ी कार्रवाई करता है। इसके तहत ऐसी सामग्री को हटाना, खातों को स्थायी रूप से निलंबित करना। और आवश्यकतानुसार स्थानीय सरकारों एवं कानून प्रवर्तन एजेंसियों के साथ सहयोग करना शामिल है। ‘एक्स’ ने अवैध सामग्री पर मस्क के रुख को दोहराते हुए कहा था, ‘‘Grok का उपयोग करके या उससे अवैध सामग्री बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो कि अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं। ’’ यह स्पष्ट संदेश है कि प्लेटफॉर्म पर किसी भी प्रकार की अवैध गतिविधि बर्दाश्त नहीं की जाएगी।
