Grok AI से महिलाओं और बच्चियों की तस्वीरें ‘डिजिटल अनड्रेस’, दुनिया भर में मचा हंगामा

आर्टिफिशियल इंटेलिजेंस (AI) को इंसानों की ज़िंदगी आसान बनाने वाली तकनीक माना गया था। उम्मीद थी कि यह पढ़ाई, हेल्थ, रिसर्च और कामकाज में सहायक बनेगा। लेकिन अब यही तकनीक एक खतरनाक मोड़ पर पहुंचती दिख रही है। एलन मस्क की कंपनी xAI का AI टूल Grok, जो सोशल मीडिया प्लेटफॉर्म X से जुड़ा है, महिलाओं और नाबालिग बच्चियों की तस्वीरों के साथ दुरुपयोग के आरोपों में घिर गया है।

आरोप है कि Grok का इस्तेमाल कर यूजर्स तस्वीरों को इस तरह एडिट कर रहे हैं, जिससे वे बिना कपड़ों की या आपत्तिजनक रूप में दिखाई देने लगती हैं। यह ट्रेंड न केवल महिलाओं बल्कि बेहद कम उम्र की बच्चियों तक पहुंच गया है, जिसने दुनिया भर में चिंता बढ़ा दी है।

नए फीचर के बाद बढ़ा दुरुपयोग

दिसंबर में Grok को एक नया अपडेट मिला, जिसमें “Image Edit” की सुविधा जोड़ी गई। इसके बाद यूजर्स के लिए किसी भी तस्वीर को अपलोड कर उसमें बदलाव करवाना आसान हो गया। इसी फीचर का फायदा उठाकर कई लोगों ने महिलाओं और बच्चियों की तस्वीरों पर आपत्तिजनक एडिट कराने शुरू कर दिए।

X प्लेटफॉर्म पर यूजर्स खुलेआम Grok को कमांड देते नजर आए, जैसे तस्वीर में कपड़ों में बदलाव करना या उन्हें हटाना। देखते ही देखते ऐसे एडिटेड फोटो वायरल होने लगे और एक खतरनाक ट्रेंड बन गया।

नाबालिगों तक पहुंचा मामला

सबसे गंभीर चिंता की बात यह है कि इस दुरुपयोग में नाबालिग बच्चे भी शामिल हैं। रिपोर्ट्स के मुताबिक, 10 साल से कम उम्र की बच्चियों की तस्वीरों को भी AI के जरिए आपत्तिजनक रूप में बदला गया।

एलन मस्क के एक बच्चे की मां एशले सेंट क्लेयर ने भी शिकायत की कि Grok ने उनकी एक पुरानी तस्वीर को एडिट कर दिया, जबकि उस वक्त उनकी उम्र सिर्फ 14 साल थी। इस खुलासे के बाद विवाद और गहरा गया।

सरकारें हुईं अलर्ट, जांच की चेतावनी

Grok के इस कथित दुरुपयोग पर अब दुनिया भर की सरकारें सक्रिय हो गई हैं। भारत, फ्रांस, मलेशिया और ब्रिटेन समेत कई देशों ने जांच के आदेश दिए हैं। यूरोपीय संघ ने इस मामले को “बेहद गंभीर” बताते हुए कहा कि यह केवल अनैतिक नहीं बल्कि अवैध भी है। EU के डिजिटल मामलों के प्रवक्ता ने साफ शब्दों में कहा कि इस तरह का कंटेंट भयावह है और इसे बर्दाश्त नहीं किया जा सकता।

ब्रिटेन के मीडिया रेगुलेटर Ofcom ने X और xAI से तुरंत जवाब तलब किया है कि यूजर्स की सुरक्षा के लिए क्या कदम उठाए जा रहे हैं। भारत के IT मंत्रालय ने भी X को 72 घंटे का अल्टीमेटम जारी किया है।

मस्क की हंसी और बाद में सफाई

जब यह ट्रेंड सामने आया तो शुरुआत में एलन मस्क की प्रतिक्रिया ने लोगों को और नाराज़ कर दिया। एक वायरल पोस्ट पर उन्होंने हंसते हुए इमोजी के साथ प्रतिक्रिया दी थी, जिसे असंवेदनशील बताया गया।

हालांकि, बढ़ती आलोचना के बाद मस्क ने कहा कि जो भी लोग Grok का इस्तेमाल अवैध कंटेंट बनाने के लिए करेंगे, उनके खिलाफ वही कार्रवाई होगी जो ऐसे कंटेंट को अपलोड करने वालों पर होती है।

सुरक्षा दावों पर सवाल

xAI और X की ओर से बयान जारी कर कहा गया कि वे बच्चों से जुड़े यौन शोषण सामग्री समेत सभी अवैध कंटेंट के खिलाफ सख्त कार्रवाई करते हैं। कंपनी ने यह भी दावा किया कि Grok की सुरक्षा में खामियों की पहचान कर उन्हें ठीक किया जा रहा है।

लेकिन जमीनी हकीकत यह है कि अब भी ऐसे एडिटेड फोटो सामने आ रहे हैं। इससे सवाल उठता है कि क्या AI कंपनियां तकनीक की रफ्तार के साथ उसकी जिम्मेदारी भी निभा पा रही हैं?

टेक्नोलॉजी या खतरा?

Grok विवाद ने एक बार फिर यह बहस छेड़ दी है कि अगर AI पर सही नियंत्रण नहीं रखा गया, तो यह सुविधा से ज्यादा खतरा बन सकता है। अब नजरें सरकारों और टेक कंपनियों पर हैं कि वे इस डिजिटल दुरुपयोग को रोकने के लिए कितनी जल्दी और कितनी सख्ती से कदम उठाती हैं।

Long or Short, get news the way you like. No ads. No redirections. Download Newspin and Stay Alert, The CSR Journal Mobile app, for fast, crisp, clean updates

App Store – https://apps.apple.com/in/app/newspin/id6746449540

Google Play Store – https://play.google.com/store/apps/details?id=com.inventifweb.newspin&pcampaignid=web_share