दिल्ली हाईकोर्ट ने सोशल मीडिया प्लेटफॉर्म्स पर आपत्तिजनक सामग्री के प्रसार को लेकर कड़ा रुख अपनाया है और मेटा को तत्काल कार्रवाई करने का निर्देश दिया है। शुक्रवार को अदालत ने सोशल मीडिया दिग्गज मेटा को आदेश दिया कि वह प्रधानमंत्री नरेंद्र मोदी और एक महिला से जुड़ी एआई-मॉर्फ्ड तस्वीरों और संबंधित सामग्री को 24 घंटे की सख्त समय सीमा के भीतर हटा दे। यह निर्देश तब आया जब एक याचिकाकर्ता महिला ने अदालत का दरवाजा खटखटाया और आरोप लगाया कि उसकी तस्वीरों को आर्टिफिशियल इंटेलिजेंस का उपयोग करके डीपफेक सामग्री बनाने के लिए हेरफेर किया गया था और फिर विभिन्न सोशल मीडिया प्लेटफॉर्म पर प्रसारित किया गया था।
सीजेपी कार्यकर्ताओं के खिलाफ आरोप
इस कानूनी कार्यवाही ने कई व्यक्तियों को जांच के दायरे में ला दिया है। याचिकाकर्ता ने विशेष रूप से सीजेपी से जुड़े कार्यकर्ताओं का नाम लिया है, जिनमें सौरव दास, अभिजीत दिपके, आशुतोष रांका और रत्ना सिंह शामिल हैं। याचिका के अनुसार, इन व्यक्तियों पर कथित तौर पर उन मॉर्फ्ड तस्वीरों को प्रसारित करने में शामिल होने का आरोप है जिनमें महिला को प्रधानमंत्री नरेंद्र मोदी के साथ दिखाया गया था। याचिकाकर्ता ने दावा किया कि यह सामग्री बदनाम करने और संकट पैदा करने के लिए परिष्कृत एआई टूल का उपयोग करके बनाई गई थी। इन गंभीर आरोपों के जवाब में, दिल्ली हाईकोर्ट ने न केवल प्लेटफॉर्म को आदेश जारी किए हैं, बल्कि मामले में जवाब देने के लिए नामित सीजेपी नेताओं को भी तलब किया है।
अदालत की टिप्पणियां और प्रधानमंत्री का संदर्भ
सुनवाई के दौरान दिल्ली हाईकोर्ट ने मामले की संवेदनशीलता पर जोर दिया। पीठ ने टिप्पणी की कि यह मामला केवल एक महिला की निजता और गरिमा तक सीमित नहीं है, बल्कि इसमें भारत के प्रधानमंत्री का नाम और कार्यालय भी शामिल है। अदालत ने नोट किया कि सीजेपी कार्यकर्ता सौरव दास और अभिजीत दिपके ने मेटा के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म पर इन एआई-मॉर्फ्ड तस्वीरों को साझा किया था। देश के शीर्ष नेतृत्व को इस तरह की डीपफेक सामग्री में शामिल करने की गंभीरता ने अदालत को तेजी से और निर्णायक रूप से कार्य करने के लिए प्रेरित किया। अदालत का हस्तक्षेप भ्रामक और हानिकारक डिजिटल सामग्री बनाने के लिए एआई तकनीक के दुरुपयोग पर बढ़ती चिंता को उजागर करता है।
पुलिस सुरक्षा और स्टेटस रिपोर्ट का आदेश
सामग्री को हटाने के अलावा, दिल्ली हाईकोर्ट ने याचिकाकर्ता की सुरक्षा को प्राथमिकता दी है। अदालत ने दिल्ली पुलिस को रिट याचिका दायर करने वाली महिला को पर्याप्त सुरक्षा प्रदान करने का आदेश जारी किया है। इसके अलावा, अदालत ने दिल्ली पुलिस को मामले की गहन जांच करने और 2 सप्ताह के भीतर एक व्यापक स्टेटस रिपोर्ट प्रस्तुत करने का निर्देश दिया है। इस रिपोर्ट में जांच की प्रगति और मॉर्फ्ड सामग्री बनाने और साझा करने के लिए जिम्मेदार लोगों के खिलाफ की गई कार्रवाई का विवरण होने की उम्मीद है। याचिकाकर्ता का कानूनी प्रतिनिधित्व अधिवक्ता उमेश चंद्र शर्मा ने किया, जिन्होंने सभी ऑनलाइन प्लेटफॉर्म से डीपफेक सामग्री को तुरंत हटाने के पक्ष में तर्क दिया।
मेटा का इतिहास और भविष्य की कार्यवाही
यह पहली बार नहीं है जब मेटा को सामग्री मॉडरेशन के संबंध में भारतीय अधिकारियों की जांच का सामना करना पड़ा है। अदालत ने उल्लेख किया कि मेटा को पहले भी बाल यौन शोषण सामग्री (सीएसएएम) के संबंध में सरकार द्वारा तलब किया जा चुका है। उस मामले में, मेटा ने अपनी खामियों को स्वीकार किया था और बच्चों से जुड़े आपत्तिजनक पोस्ट हटा दिए थे। वर्तमान मामला सोशल मीडिया कंपनियों पर एआई-जनित सामग्री की सख्त निगरानी बनाए रखने के लिए नियामक दबाव को बढ़ाता है और दिल्ली हाईकोर्ट ने इस मामले की अगली सुनवाई 14 अक्टूबर के लिए निर्धारित की है, जहां पुलिस की स्टेटस रिपोर्ट और मेटा तथा सीजेपी कार्यकर्ताओं के अनुपालन की समीक्षा की जाएगी।