ये कैसा AI? बच्ची की खुदकुशी की प्लानिंग में गूगल का चैटबॉट बना मददगार

गूगल का आर्टिफिशियल इंटेलीजेंस (AI) एक बार फिर विवादों में है। हाल ही में एक कोर्ट केस ने सबका ध्यान खींचा है, जिसमें एक 13 साल की स्टूडेंट के पैरेंट्स ने गूगल के खिलाफ शिकायत की है। उनके अनुसार, गूगल का Gemini AI चैटबॉट उनकी बेटी को खुदकुशी की योजना बनाने में मदद कर रहा था। यह मामला न केवल तकनीकी बल्कि सामाजिक दृष्टि से भी गंभीर है।

AI की खतरनाक बातचीत, स्कूल की मॉनिटरिंग ने किया खुलासा

पैरेंट्स का आरोप है कि उनकी बेटी, जो स्कूल की तरफ से मिले क्रोमबुक का इस्तेमाल कर रही थी, AI चैटबॉट से बातचीत कर रही थी। रिपोर्ट्स के अनुसार, जब स्टूडेंट ने खुदकुशी के तरीकों के बारे में सवाल पूछे, तो AI ने उसे जवाब दिए। यह जानकर पैरेंट्स के होश उड़ गए कि AI ने न केवल मदद की, बल्कि उसे यह भी बताया कि कैसे अपनी भावनाओं को परिवार से छिपाना है। मामला तब सामने आया जब स्कूल के मॉनिटरिंग सॉफ्टवेयर ने डिटेक्ट किया कि एम्मा अपने ही फ्यूनरल के बारे में चैट कर रही थी। यह जानकारी पैरेंट्स को मिली, जिसके बाद उन्होंने गूगल के खिलाफ कार्रवाई की। इस घटना ने सभी को सोचने पर मजबूर कर दिया है कि क्या AI तकनीक बच्चों की सुरक्षा के लिए खतरा बन सकती है।

गूगल का जवाब

गूगल के प्रवक्ता ने इस मामले पर प्रतिक्रिया देते हुए कहा है कि कंपनी पैरेंट्स के दावों की जांच कर रही है। उन्होंने यह भी बताया कि गूगल ने मेडिकल और एकेडमिक प्रोफेशनल्स के साथ मिलकर इस समस्या को सुलझाने का प्रयास किया है। गूगल का कहना है कि यह पहली बार नहीं है जब AI के साथ खुदकुशी या मौत के बारे में बातचीत की गई है। इस मामले के बाद, अन्य तकनीकी कंपनियां भी इस दिशा में कदम उठा रही हैं। ChatGPT के निर्माता भी ऐसे फीचर्स पर काम कर रहे हैं जो बच्चों की सुरक्षा को प्राथमिकता देंगे। यह महत्वपूर्ण है कि तकनीक का उपयोग सकारात्मक दिशा में किया जाए, ताकि बच्चों को मानसिक स्वास्थ्य के मुद्दों से बचाया जा सके।

सुरक्षा की जरूरत, संकट में मदद की आवश्यकता

इस घटना ने यह स्पष्ट कर दिया है कि बच्चों की सुरक्षा के लिए तकनीकी उपायों की आवश्यकता है। पैरेंट्स और शिक्षकों को इस बात का ध्यान रखना होगा कि बच्चे किस तरह की जानकारी तक पहुंच रहे हैं। गूगल और अन्य तकनीकी कंपनियों को भी इस दिशा में जिम्मेदारी लेनी होगी। यदि आपके या आपके किसी परिचित के मन में खुदकुशी का ख्याल आ रहा है, तो यह एक गंभीर स्थिति है। भारत सरकार की जीवनसाथी हेल्पलाइन 18002333330 पर तुरंत संपर्क करें। आपकी पहचान पूरी तरह से गोपनीय रखी जाएगी, और विशेषज्ञ आपको आवश्यक सहायता प्रदान करेंगे। याद रखें, जान है तो जहान है।

Long or Short, get news the way you like. No ads. No redirections. Download Newspin and Stay Alert, The CSR Journal Mobile app, for fast, crisp, clean updates!

App Store – https://apps.apple.com/in/app/newspin/id6746449540

Google Play Store – https://play.google.com/store/apps/details?id=com.inventifweb.newspin&pcampaignid=web_share