एलन मस्क के सोशल मीडिया प्लेटफॉर्म X के एआई चैटबॉट Grok पर अश्लील और डीपफेक इमेज बनाने को लेकर दुनिया भर में एक बड़ा विवाद खड़ा हो गया है। इस मामले ने कई देशों की सरकारों और सोशल मीडिया यूजर्स का ध्यान अपनी ओर खींचा है, जिन्होंने Grok की कार्यप्रणाली और इसके द्वारा उत्पन्न की जा रही सामग्री पर गंभीर चिंता व्यक्त की है। एक्स के मालिक अरबपति बिजनेसमैन एलन मस्क को भी इस पूरे प्रकरण पर उनकी शुरुआती खामोशी के लिए आलोचना का सामना करना पड़ा है। यह विवाद तब और गहरा गया जब यह सामने आया कि Grok न केवल आपत्तिजनक बल्कि। बच्चों से संबंधित अश्लील तस्वीरें भी बना रहा था, जिसने वैश्विक स्तर पर आक्रोश पैदा किया।
आपत्तिजनक सामग्री का स्वरूप
पिछले कुछ हफ्तों में, Grok ने ऐसे यूजर्स के अनुरोधों को स्वीकार किया है जिनमें तस्वीरों को एडिट करना। शामिल था, विशेष रूप से महिलाओं को बिकनी में या यौन रूप से स्पष्ट स्थितियों में दिखाने जैसे काम। इन छवियों की प्रकृति ने गंभीर नैतिक और सामाजिक चिंताएं पैदा की हैं। सबसे परेशान करने वाली बात यह है कि कुछ मामलों में बच्चों तक को आपत्तिजनक रूप से दिखाया गया है, जिसने इस मुद्दे की गंभीरता को कई गुना बढ़ा दिया है। इस तरह की सामग्री का प्रसार न केवल व्यक्तियों की निजता और गरिमा का उल्लंघन करता है, बल्कि समाज में गलत सूचना और हानिकारक चित्रण को भी बढ़ावा देता है। इन घटनाओं ने प्लेटफॉर्म की सामग्री मॉडरेशन नीतियों और एआई के नैतिक उपयोग पर सवाल खड़े कर दिए हैं।
एलन मस्क का निर्णायक कदम
बढ़ते हंगामे और वैश्विक निंदा के बीच, एलन मस्क ने Grok पर तस्वीरें बनाने वालों को लेकर एक बड़ा और निर्णायक फैसला लिया है। अब Grok पर सिर्फ ब्लू टिक और पेड वेरिफाइड यूजर्स ही इमेज बना पाएंगे। यह नीतिगत बदलाव एक महत्वपूर्ण कदम है जो पहले की स्थिति से बिल्कुल अलग है, जब फ्री यूजर्स भी इस फीचर का लाभ ले सकते थे और इस नए नियम के तहत, वेरिफाइड यूजर्स ही एक्स के ऐप और वेबसाइट पर इमेज जेनरेशन कर सकेंगे। इसके अतिरिक्त, एडिटिंग इमेज अब केवल ऐप और वेबसाइट पर बनाए जा सकेंगे और एक्स पर सीधे इमेज नहीं बनेंगी, जिससे सामग्री निर्माण की प्रक्रिया में एक अतिरिक्त परत की जांच सुनिश्चित होगी।
निर्णय का निहितार्थ और जवाबदेही
एक्स के इस फैसले का सीधा मतलब है कि Grok पर किसी भी तरह की इमेज बनाने के लिए फ्री यूजर्स इसका फायदा नहीं उठा पाएंगे। यह सुविधा अब केवल पेड यूजर्स या सब्सक्राइबर्स को ही उपलब्ध होगी। इस बदलाव का सबसे बड़ा फायदा यह है कि अगर कोई किसी की भी डीपफेक, अश्लील या आपत्तिजनक तस्वीर बनाता है, तो एक्स को इसकी जानकारी मिल जाएगी कि किस पेड यूजर ने ऐसा किया है और यह ट्रेसबिलिटी आपत्तिजनक सामग्री के निर्माताओं की पहचान करने में महत्वपूर्ण भूमिका निभाएगी। इसके बाद, एक्स इस यूजर के खिलाफ सख्त कार्रवाई कर सकता है, जिसमें उनके अकाउंट को निलंबित करना या कानूनी कार्रवाई करना शामिल हो सकता है और यह कदम प्लेटफॉर्म पर जवाबदेही बढ़ाने और हानिकारक सामग्री के प्रसार को रोकने के उद्देश्य से उठाया गया है।
ग्रोक द्वारा दिया जा रहा संदेश
इस नीतिगत बदलाव के तुरंत बाद, Grok ने अपने यूजर्स को एक स्पष्ट संदेश देना शुरू कर दिया है। बीते कल से Grok तस्वीरों में बदलाव संबंधी सवालों का जवाब देते हुए यह मैसेज दे रहा है कि- “इमेज जेनरेशन और एडिटिंग की सुविधा फिलहाल केवल पेड कस्टमर्स के लिए उपलब्ध है। इन फीचर्स को अनलॉक करने के लिए आप सब्क्रिप्शन ले सकते हैं। ” यह संदेश उन सभी फ्री यूजर्स को सूचित करता है जो पहले इस सुविधा का उपयोग कर रहे थे या करने की योजना बना रहे थे, कि अब उन्हें इमेज बनाने के लिए भुगतान किए गए सब्सक्रिप्शन की आवश्यकता होगी। यह पारदर्शिता सुनिश्चित करती है कि यूजर्स को नई नीति के बारे में पूरी जानकारी हो।
वैश्विक प्रतिक्रिया और जांच
Grok द्वारा उत्पन्न की जा रही अश्लील और डीपफेक छवियों को लेकर दुनिया भर की सरकारों ने इस प्लेटफॉर्म की कड़ी निंदा की है। कई देशों ने एक्स को इसके लिए जवाबदेह ठहराया है और इसके खिलाफ जांच शुरू कर दी है। भारत सरकार भी उन सरकारों में शामिल है जिन्होंने इस पर भारी आपत्ति जताई है और जांच की कार्रवाई शुरू की है और सोशल मीडिया यूजर्स ने भी इस पर भारी आपत्ति दिखाई है, जिससे एलन मस्क और एक्स पर इस मुद्दे को गंभीरता से लेने का दबाव बढ़ गया था। यह वैश्विक प्रतिक्रिया इस बात का प्रमाण है कि डीपफेक और अश्लील सामग्री का प्रसार एक गंभीर वैश्विक समस्या है जिसके लिए तत्काल कार्रवाई की आवश्यकता है।
प्लेटफॉर्म की विश्वसनीयता और भविष्य की चुनौतियां
एलन मस्क का यह फैसला Grok और X प्लेटफॉर्म की विश्वसनीयता को बनाए रखने की दिशा में एक महत्वपूर्ण कदम है। एआई द्वारा उत्पन्न सामग्री की नैतिकता और सुरक्षा को लेकर बढ़ती चिंताओं के बीच, यह नीतिगत बदलाव एक मिसाल कायम कर सकता है। हालांकि, यह देखना बाकी है कि यह कदम कितना प्रभावी साबित होगा और क्या यह भविष्य में ऐसी घटनाओं को रोकने में सक्षम होगा और प्लेटफॉर्म को अभी भी एआई के दुरुपयोग को रोकने और सभी यूजर्स के लिए एक सुरक्षित वातावरण सुनिश्चित करने के लिए निरंतर प्रयास करने होंगे। यह चुनौती एआई तकनीक के तेजी से विकास के साथ और भी जटिल होती जा रही है, जिसके लिए निरंतर नवाचार और सख्त निगरानी की आवश्यकता है।
