एलन मस्क की कंपनी X (पूर्व में ट्विटर) का आर्टिफिशियल इंटेलिजेंस टूल 'ग्रोक' (Grok AI) एक बार फिर गंभीर विवादों के घेरे में है और अपनी बेबाक और बिना किसी फिल्टर वाली छवि के लिए पहचाने जाने वाले इस टूल पर अब बेहद गंभीर आरोप लगे हैं। एक हालिया शोध में खुलासा हुआ है कि ग्रोक एआई ने महज। 11 दिनों के भीतर लगभग 30 लाख अश्लील तस्वीरें जनरेट की हैं। यह रिपोर्ट सामने आने के बाद दुनिया भर में हड़कंप मच गया है और एआई सुरक्षा को लेकर नए सिरे से बहस छिड़ गई है।
चौंकाने वाले आंकड़े और रिसर्च
सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) द्वारा किए गए इस शोध में बताया गया है कि ग्रोक एआई का इस्तेमाल बड़े पैमाने पर आपत्तिजनक कंटेंट बनाने के लिए किया जा रहा है। डिजिटल इंटेलिजेंस कंपनी पेरिटोन इंटेलिजेंस के विश्लेषण के अनुसार, यह ट्रेंड नए साल की शुरुआत में तेजी से वायरल हुआ। रिपोर्ट के मुताबिक, 29 दिसंबर 2025 से 8 जनवरी 2026 के बीच ग्रोक ने औसतन हर 41 सेकंड में बच्चों से जुड़ी अश्लील तस्वीरें बनाईं और 2 जनवरी को यह गतिविधि अपने चरम पर थी, जब एक ही दिन में लगभग 199,612 अलग-अलग रिक्वेस्ट दर्ज की गईं।
बच्चों की सुरक्षा पर मंडराता खतरा
इस रिपोर्ट का सबसे भयावह पहलू यह है कि इन 30 लाख तस्वीरों में। से लगभग 23,000 तस्वीरें ऐसी थीं जिनमें बच्चों को आपत्तिजनक स्थितियों में दिखाया गया था। सीसीडीएच ने अनुमान लगाया है कि ग्रोक एआई का एल्गोरिदम सुरक्षा मानकों का पालन करने में पूरी तरह विफल रहा है और लोग अनजान व्यक्तियों और मशहूर हस्तियों की तस्वीरें अपलोड कर उन्हें अश्लील सामग्री में बदलने के लिए ग्रोक को प्रॉम्ट दे रहे हैं, और यह टूल बिना किसी रोक-टोक के ऐसी तस्वीरें बनाकर दे रहा है।
वैश्विक स्तर पर विरोध और पाबंदियां
ग्रोक एआई की इस हरकत पर अंतरराष्ट्रीय स्तर पर तीखी प्रतिक्रिया हुई है और ब्रिटेन के प्रधानमंत्री कीर स्टार्मर ने इस स्थिति को 'घिनौना' और 'शर्मनाक' करार दिया है। उन्होंने एआई कंपनियों को चेतावनी दी है कि वे अपनी जिम्मेदारी से पीछे नहीं हट सकते और इसके अलावा, इंडोनेशिया और मलेशिया जैसे देशों ने भी इस एआई टूल पर पूर्ण प्रतिबंध लगाने या कड़ी पाबंदियां लगाने की घोषणा की है। सरकारों का मानना है कि इस तरह के टूल समाज में अपराध और अनैतिकता को बढ़ावा दे रहे हैं।
X और एलन मस्क का रुख
भारी दबाव और आलोचनाओं के बाद, X प्लेटफॉर्म ने 9 जनवरी को इमेज जनरेशन फीचर को केवल पेड (Premium) यूजर्स के लिए सीमित कर दिया था और कंपनी ने अपने एक बयान में कहा कि वे X को सभी के लिए एक सुरक्षित प्लेटफॉर्म बनाने के लिए प्रतिबद्ध हैं और अश्लील कंटेंट के प्रति उनकी 'जीरो टॉलरेंस' पॉलिसी जारी रहेगी। हालांकि, विशेषज्ञों का कहना है कि केवल पेड यूजर्स तक सीमित करना समाधान नहीं है, क्योंकि दुरुपयोग अभी भी जारी है। एलन मस्क, जो हमेशा अभिव्यक्ति की आजादी की वकालत करते हैं, इस मामले। पर अब तक किसी बड़े ठोस समाधान के साथ सामने नहीं आए हैं।
एआई रेगुलेशन की बढ़ती मांग
इस घटना ने एक बार फिर यह साबित कर दिया है कि आर्टिफिशियल इंटेलिजेंस के क्षेत्र में कड़े कानूनों की सख्त जरूरत है और बिना किसी एथिकल बाउंड्री के विकसित किए जा रहे एआई मॉडल समाज के लिए खतरा बन सकते हैं। ग्रोक एआई का यह मामला भविष्य में एआई टूल्स के लिए टर्निंग पॉइंट साबित हो सकता। है, जहां कंपनियों को न केवल तकनीक बल्कि नैतिकता और सुरक्षा पर भी भारी निवेश करना होगा।
