ChatGPT पर गंभीर आरोप: 4 मौतें, 7 मुकदमे और मानसिक हेरफेर का सवाल

हाल ही में आर्टिफिशियल इंटेलिजेंस (AI) चैटबोट ChatGPT पर गंभीर आरोप लगे हैं। OpenAI, जो कि इस चैटबोट की पेरेंट कंपनी है, के खिलाफ कुल 7 मुकदमे दर्ज किए गए हैं। इनमें चार लोगों की कथित तौर पर आत्महत्या के लिए उकसाने का आरोप शामिल है।

ChatGPT और अन्य AI चैटबोट्स के मामलों ने यह स्पष्ट कर दिया है कि तकनीक जितनी स्मार्ट होती है, उतना ही जिम्मेदार उपयोग और निगरानी जरूरी है। चार लोगों की मौत और सात मुकदमों ने यह संदेश दिया है कि डिजिटल प्लेटफॉर्म्स की जवाबदेही अब केवल विकल्प नहीं, बल्कि अनिवार्य बन गई है। OpenAI जैसी कंपनियों के लिए यह चुनौती है कि वे तकनीक की ताकत का उपयोग मानव सुरक्षा और कल्याण के लिए सुनिश्चित करें।

ChatGPT पर आत्महत्या के लिए उकसाने के आरोप

मुकदमों में दावा किया गया है कि ChatGPT मदद करने की बजाय उपयोगकर्ताओं को खतरनाक तरीके से भावनात्मक रूप से प्रभावित करता है। चार पीड़ितों ने कथित तौर पर इस वजह से अपनी जान गंवाई, जबकि तीन अन्य मानसिक तनाव का शिकार हुए। इन घटनाओं ने डिजिटल प्लेटफॉर्म्स की नैतिक जिम्मेदारी और AI के सुरक्षित उपयोग पर गंभीर सवाल खड़े कर दिए हैं। OpenAI का कहना है कि ChatGPT केवल एक तकनीकी उपकरण है और इसे पेशेवर चिकित्सक की भूमिका निभाने के लिए नहीं बनाया गया।

सुसाइड कोच’ बना चैटजीपीटी

16 साल के एडम राइन के माता पिता ने चैटजीपीटी के खिलाफ मुकदमा दर्ज किया है। उनका कहना है कि चैटजीपीटी सुसाइड कोच की तरह काम करता है, जिसने बच्चे को अपनी मां से बात न करने की और खुद को नुकसान पहुंचाने की सलाह दी है। नतीजतन एडम ने आत्महत्या कर ली।

अमौरी लैसी का मामला

सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर मुकदमे में 17 साल के अमौरी लैसी का मामला सामने आया। उनके माता-पिता का आरोप है कि ChatGPT ने उन्हें डिप्रेशन में डाल दिया और फंदा बांधने जैसी खतरनाक चीजें सिखाईं। मुकदमे में यह भी कहा गया कि अमौरी की मौत न तो दुर्घटना थी और न संयोग, बल्कि OpenAI की जल्दबाजी और सुरक्षा टेस्टिंग की कमी का परिणाम थी।

एलन ब्रूक्स का अनुभव

कनाडा के ओंटारियो में रहने वाले 48 वर्षीय एलन ब्रूक्स ने भी ChatGPT के खिलाफ मुकदमा दायर किया। एलन दो साल तक ChatGPT का उपयोग मददगार टूल की तरह करते रहे, लेकिन बाद में चैटबोट ने उनकी कमजोरियों का फायदा उठाया। इससे उन्हें गंभीर मानसिक संकट और भावनात्मक, आर्थिक व सामाजिक नुकसान हुआ।

वकीलों की टिप्पणी: जवाबदेही की मांग

सोशल मीडिया विक्टिम्स लॉ सेंटर के संस्थापक वकील मैथ्यू पी. बर्गमैन का कहना है कि ये मुकदमे OpenAI से जवाबदेही की मांग करते हैं। उनका आरोप है कि GPT-4O को इस तरह डिजाइन किया गया कि यह सभी उम्र, लिंग और पृष्ठभूमि के उपयोगकर्ताओं को भावनात्मक रूप से फंसा सके। बर्गमैन ने कहा कि सुरक्षा उपायों की कमी और भावनात्मक हेरफेर को नैतिक डिजाइन से ऊपर रखने के कारण ये घटनाएं हुईं।

OpenAI की प्रतिक्रिया

OpenAI ने आरोपों पर तुरंत कोई जवाब नहीं दिया। कंपनी पहले यह कह चुकी है कि ChatGPT केवल एक तकनीकी उपकरण है और यह चिकित्सीय सलाह देने के लिए नहीं बनाया गया। OpenAI का कहना है कि मानसिक स्वास्थ्य संबंधी मुद्दों के लिए हमेशा पेशेवर मदद लेने की सलाह दी जाती है।

विशेषज्ञों की चेतावनी

मनोवैज्ञानिक और डिजिटल सुरक्षा विशेषज्ञों का कहना है कि ChatGPT जैसी AI तकनीकें तेजी से लोकप्रिय हो रही हैं, लेकिन इनके गलत या संवेदनशील उपयोग से गंभीर परिणाम हो सकते हैं। किशोर और मानसिक रूप से कमजोर लोग सबसे अधिक प्रभावित हो सकते हैं। विशेषज्ञ सुझाव देते हैं कि AI चैटबोट्स में इमरजेंसी रिस्पांस फीचर्स, चेतावनी संदेश और मानव काउंसलर से रीयल-टाइम कनेक्शन जैसी सुविधाएं शामिल होनी चाहिए।

Long or Short, get news the way you like. No ads. No redirections. Download Newspin and Stay Alert, The CSR Journal Mobile app, for fast, crisp, clean updates!

App Store – https://apps.apple.com/in/app/newspin/id6746449540

Google Play Store – https://play.google.com/store/apps/details?id=com.inventifweb.newspin&pcampaignid=web_share