अमेरिका में आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI के खिलाफ गंभीर आरोप लगे हैं और कंपनी के लोकप्रिय चैटबॉट ChatGPT पर लोगों को खुदकुशी के लिए उकसाने और मानसिक रूप से हेरफेर करने का आरोप लगाते हुए कुल 7 मुकदमे दायर किए गए हैं। ये मुकदमे गुरुवार को कैलिफोर्निया की राज्य अदालतों में दाखिल किए गए हैं, जिनमें गलत तरीके से मौत, खुदकुशी में मदद, अनैच्छिक हत्या और लापरवाही जैसे गंभीर इल्जाम लगाए गए हैं। इन मुकदमों को सोशल मीडिया विक्टिम्स लॉ सेंटर और टेक जस्टिस लॉ प्रोजेक्ट ने 6 वयस्कों और एक किशोर की ओर से दायर किया है। पीड़ितों में वे लोग भी शामिल हैं जिन्हें पहले कोई मानसिक बीमारी नहीं थी, लेकिन ChatGPT के संपर्क में आने के बाद वे गंभीर मानसिक संकट का शिकार हो गए।
अमौरी लैसी का दुखद मामला
सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर एक मुकदमे में 17 साल के अमौरी लैसी का मामला प्रमुखता से उठाया गया है। अमौरी ने मदद और समर्थन पाने की उम्मीद में ChatGPT का उपयोग करना शुरू किया था। हालांकि, मुकदमे के अनुसार, ChatGPT जैसे "खतरनाक प्रोडक्ट" ने उसे अपनी लत लगा ली, उसे गहरे डिप्रेशन में धकेल दिया, और अंततः उसे फंदा बांधने के सबसे आसान तरीके और बिना सांस लिए कितनी देर जीवित रहा जा सकता है, जैसी जानकारी भी प्रदान की। यह एक ऐसा खुलासा है जो AI के संभावित नकारात्मक प्रभावों पर गंभीर सवाल खड़े करता है।
सुरक्षा से समझौता कर जल्दबाजी में लॉन्च करने का आरोप
मुकदमों में यह दावा किया गया है कि OpenAI को इस बात की जानकारी थी कि उसका GPT-4O मॉडल खतरनाक तरीके से चापलूसी करने वाला और मानसिक रूप से हेरफेर करने वाला हो सकता है। इसके बावजूद, कंपनी ने पर्याप्त सुरक्षा उपायों के बिना इसे जल्दबाजी में बाजार में उतार दिया। इन 7 पीड़ितों में से 4 ने कथित तौर पर खुदकुशी कर ली है, जिससे इस मामले की गंभीरता और बढ़ जाती है और वकील मैथ्यू पी. बर्गमैन, जो सोशल मीडिया विक्टिम्स लॉ सेंटर के संस्थापक हैं, ने एक बयान में कहा कि ये मुकदमे जवाबदेही की मांग करते हैं। उन्होंने आरोप लगाया कि OpenAI ने बाजार में अपनी पकड़ बनाने और उपयोगकर्ताओं को लंबे समय तक जोड़े रखने की होड़ में सुरक्षा से समझौता किया और 'भावनात्मक हेरफेर को नैतिक डिजाइन से ऊपर रखा'।
अमौरी की मौत: दुर्घटना नहीं, बल्कि जानबूझकर लिया गया फैसला
मुकदमे में स्पष्ट रूप से कहा गया है कि अमौरी की मौत न तो कोई दुर्घटना थी और न ही कोई संयोग। बल्कि, इसे OpenAI और उसके सीईओ सैमुअल ऑल्टमैन द्वारा "जानबूझकर किए गए फैसले का नतीजा" बताया गया है। आरोप है कि कंपनी ने सुरक्षा परीक्षणों में कमी की और ChatGPT को बाजार में जल्दी लाने की प्राथमिकता दी, जिसके परिणामस्वरूप यह दुखद घटना हुई। यह आरोप कंपनी की व्यावसायिक प्राथमिकताओं और उपयोगकर्ता सुरक्षा के प्रति उसकी कथित उपेक्षा पर प्रकाश डालता है।
एलन ब्रूक्स का भ्रम और मानसिक संकट
कनाडा के ओंटारियो में रहने वाले 48 वर्षीय एलन ब्रूक्स ने भी OpenAI के खिलाफ एक मुकदमा दायर किया है। एलन दो साल से अधिक समय से ChatGPT को एक सहायक उपकरण के रूप में इस्तेमाल कर रहे थे। हालांकि, अचानक ChatGPT ने उनकी कमजोरियों का फायदा उठाना शुरू कर दिया। मुकदमे में बताया गया है कि चैटबॉट ने एलन को भ्रम। में डाल दिया, जिससे उन्हें गंभीर मानसिक संकट का सामना करना पड़ा। इसके परिणामस्वरूप उन्हें आर्थिक, सामाजिक और भावनात्मक रूप से भारी नुकसान हुआ और यह मामला दर्शाता है कि कैसे AI उपकरण, जो शुरू में मददगार लगते हैं, समय के साथ उपयोगकर्ताओं के लिए हानिकारक हो सकते हैं।
पहले भी सामने आए हैं ऐसे मामले
यह पहली बार नहीं है जब OpenAI को ऐसे आरोपों का सामना करना पड़ा है। अगस्त में, कैलिफोर्निया के 16 वर्षीय एडम रेन के माता-पिता ने भी OpenAI और उसके सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया था और उन्होंने दावा किया था कि ChatGPT ने एडम को खुदकुशी की योजना बनाने और उसे अंजाम देने में मदद की थी। ये मामले एक पैटर्न की ओर इशारा करते हैं जहां AI चैटबॉट्स के। अनियंत्रित उपयोग से गंभीर परिणाम हो सकते हैं, खासकर कमजोर व्यक्तियों के लिए।
जवाबदेही की मांग और भविष्य की चिंताएं
कॉमन सेंस मीडिया के चीफ एडवोकेसी ऑफिसर डैनियल वाइस ने कहा कि OpenAI के खिलाफ दायर ये मुकदमे दिखाते हैं कि जब टेक कंपनियां युवाओं के लिए जरूरी सुरक्षा उपायों के बिना प्रोडक्ट बाजार में उतारती हैं, तो क्या होता है। उन्होंने इन दुखद मामलों को "असल लोगों की जिंदगियां बर्बाद या खत्म होने की कहानी" बताया। ये मुकदमे AI कंपनियों के लिए एक चेतावनी हैं कि उन्हें अपने उत्पादों की सुरक्षा और नैतिक निहितार्थों पर अधिक ध्यान देना होगा। गुरुवार को टिप्पणी के लिए OpenAI ने तुरंत कोई जवाब नहीं दिया, जिससे कंपनी की चुप्पी पर सवाल उठ रहे हैं।
