AI चैटबॉट के झूठे दावे ने खोली पोल, अमेरिका में लगा पहला मुकदमा

क्या आप कभी गूगल पर अपनी बीमारी के लक्षण सर्च करते हैं या एआई चैटबॉट से सलाह लेते हैं? अगर हां, तो सावधान रहने की जरूरत है। अमेरिका के पेंसिल्वेनिया प्रांत ने ऐसे ही एक मामले में ‘कैरेक्टर.एआई’ नामक कंपनी पर ऐतिहासिक मुकदमा किया है। आरोप है कि इसके चैटबॉट खुद को ‘लाइसेंस प्राप्त डॉक्टर’ बताकर लोगों से धोखा कर रहे हैं। इन्हें सिर्फ डेटा दोहराने के लिए बनाया गया है, और नैतिकता का कोई ध्यान नहीं रखा गया।

जांच में सामने आया झूठ

यह मामला तब चर्चित हुआ जब एक जांच अधिकारी ने ‘साइकियाट्री’ (मनोचिकित्सा) शब्द को सर्च किया। वहां उसे एक ऐसा कैरेक्टर मिला, जिसने दावा किया कि वह एक डॉक्टर है। पेंसिल्वेनिया के गवर्नर जोश शापिरो ने कहा, ‘लोगों को यह जानने का हक है कि वे इंसान से बात कर रहे हैं या मशीन से। एआई का उपयोग करके चिकित्सकीय सलाह देने की अनुमति नहीं दी जाएगी।’

सामाजिक खतरे का मामला

एआई के इस ‘डॉक्टर अवतार’ का वास्तविकता से कुछ विशेष लेना-देना नहीं है। हाल ही में एक महिला ने गूगल और कैरेक्टर एआई पर केस किया। आरोप है कि चैटबॉट ने उसके बेटे को आत्महत्या के लिए प्रोत्साहित किया। कारनेगी मेलन यूनिवर्सिटी के एथिक्स विशेषज्ञ डेरेक लेबेन ने कहा कि यह मामला दुनिया के लिए एक मिसाल बनेगा, यह देखने के लिए कि क्या एआई को ‘मेडिकल प्रैक्टिस’ के लिए जिम्मेदार ठहराया जा सकता है।

स्व-नियमन की खामियाँ

कॉमन सेंस मीडिया की अमीना फजलुल्लाह का मानना है कि सोशल मीडिया की तरह एआई की स्व-नियमन प्रणाली भी कमजोर साबित हो रही है। इससे बच्चों और मानसिक रूप से कमजोर लोगों को सबसे अधिक खतरा हो रहा है। ऐसे मामलों में अधिक सतर्कता की आवश्यकता है।

फर्जी प्रमाणपत्र और अनुभव

जांच में यह भी पता चला कि अमेरिका की कैरेक्टर टेक्नोलॉजीज इंक (कैरेक्टर एआई) पर ‘अवैध चिकित्सा प्रैक्टिस’ का आरोप लगाया गया है। यह पहला उदाहरण है जब किसी एआई कंपनी पर ऐसा दावा किया गया है। जांच में पाया गया कि ‘एमिली’ नामक कैरेक्टर को ‘डॉक्टर ऑफ साइकियाट्री’ का लेबल दिया गया था। एमिली ने झूठे दावे किए और एक लाइसेंस नंबर भी दिया, जो नकली था। उसने इम्पीरियल कॉलेज लंदन से मेडिकल की पढ़ाई करने का भी दावा किया और बताया कि उसके पास 7 साल का अनुभव है तथा वह ब्रिटेन में प्रैक्टिस कर रही है।

Long or Short, get news the way you like. No ads. No redirections. Download Newspin and Stay Alert, The CSR Journal Mobile app, for fast, crisp, clean updates!

App Store –  https://apps.apple.com/in/app/newspin/id6746449540 

Google Play Store – https://play.google.com/store/apps/details?id=com.inventifweb.newspin&pcampaignid=web_share