महिलाओं की अश्लील तस्वीरों पर Grok Ai घिरा, X को केंद्र का नोटिस
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते दुरुपयोग को लेकर केंद्र सरकार ने सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सोशल मीडिया प्लेटफॉर्म X को नोटिस जारी कर उसकी AI सर्विस ‘Grok’ के गलत इस्तेमाल पर गंभीर आपत्ति जताई है। मंत्रालय ने IT एक्ट और IT नियमों के उल्लंघन का हवाला देते हुए X से तत्काल कार्रवाई और विस्तृत एक्शन टेकन रिपोर्ट मांगी है।
सरकार की यह सख्ती ऐसे समय सामने आई है, जब Grok AI के जरिए महिलाओं और नाबालिगों की तस्वीरों को बिना सहमति के आपत्तिजनक और अश्लील रूप में एडिट किए जाने के कई मामले सामने आए हैं। इसे लेकर देश और विदेश में चिंता लगातार बढ़ रही है।
Read More: अयोध्या राम मंदिर में नमाज पढ़ने की कोशिश, शख्स गिरफ्तार
सांसद की चिट्ठी से बढ़ा मामला
इस पूरे विवाद की शुरुआत शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी के उस पत्र से हुई, जिसमें उन्होंने IT मंत्री अश्विनी वैष्णव का ध्यान X पर चल रहे एक “खतरनाक ट्रेंड” की ओर दिलाया। प्रियंका ने लिखा- X पर फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट की जा रही हैं और फिर Grok AI को टैग कर उनके कपड़े हटाने या तस्वीरों को सेक्शुअलाइज करने के निर्देश दिए जा रहे हैं।
प्रियंका चतुर्वेदी ने पत्र में कहा- “यह सिर्फ अनैतिक नहीं बल्कि आपराधिक कृत्य है। यह महिलाओं की निजता और गरिमा पर सीधा हमला है। भारत AI का स्वागत करता है, लेकिन महिलाओं के खिलाफ अपमानजनक कंटेंट को किसी भी सूरत में स्वीकार नहीं किया जा सकता।”
क्या है Grok और क्यों हो रहा विवाद?
Grok एक AI चैटबॉट है, जिसे एलन मस्क की कंपनी xAI ने विकसित किया है। यह X प्लेटफॉर्म पर उपलब्ध है और टेक्स्ट के साथ-साथ इमेज जनरेशन की क्षमता भी रखता है। Grok को “बेबाक और मजाकिया अंदाज” में जवाब देने वाला AI बताया जाता है।
हालांकि, इसी “बेबाकी” ने अब गंभीर सवाल खड़े कर दिए हैं। रिपोर्ट्स के मुताबिक, यूजर्स Grok को ऐसे प्रॉम्प्ट दे रहे हैं, जिनसे वह महिलाओं और नाबालिगों की तस्वीरों को डिजिटल रूप से निर्वस्त्र या अश्लील बना रहा है। चौंकाने वाली बात यह है कि कई मामलों में Grok बिना किसी प्रभावी सेफ्टी चेक के ऐसे निर्देशों को पूरा कर रहा है।
भारत सरकार का 72 घंटे का अल्टीमेटम
सूत्रों के मुताबिक, भारत सरकार ने X को 72 घंटे का अल्टीमेटम दिया है। मंत्रालय ने साफ कहा है कि यदि तय समय सीमा के भीतर संतोषजनक जवाब और ठोस कदम नहीं उठाए गए, तो X देश में मिलने वाली कानूनी सुरक्षा खो सकता है।
सरकार ने अपने पत्र में कहा- “महिलाओं और नाबालिगों की बिना सहमति की आपत्तिजनक तस्वीरें बनाना गंभीर अपराध है, Grok और xAI की जिम्मेदारी बनती है कि वे ऐसे कंटेंट को रोकने के लिए मजबूत सेफ्टी सिस्टम लागू करें। नियमों का पालन न करने पर प्लेटफॉर्म, उसके अधिकारियों और दोषी यूजर्स के खिलाफ सख्त कानूनी कार्रवाई की जाएगी। यह अब तक AI दुरुपयोग को लेकर भारत सरकार का सबसे कड़ा रुख माना जा रहा है।
ब्रिटेन में भी X पर बैन की तलवार
भारत ही नहीं, ब्रिटेन में भी एलन मस्क का प्लेटफॉर्म X गंभीर संकट में फंसा हुआ है। ब्रिटिश मीडिया रिपोर्ट्स के अनुसार, Grok AI के जरिए महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बनाए जाने के बाद वहां की सरकार X पर प्रतिबंध लगाने तक पर विचार कर रही है।
ब्रिटेन के प्रधानमंत्री कीर स्टारमर ने इस मामले में सख्त चेतावनी देते हुए कहा, “यह गलत है, यह गैरकानूनी है और इसे बर्दाश्त नहीं किया जाएगा।” ब्रिटेन के ऑनलाइन सेफ्टी एक्ट के तहत सरकार के पास यह अधिकार है कि नियमों का उल्लंघन करने वाली सोशल मीडिया कंपनियों पर अरबों पाउंड का जुर्माना लगाए या उन्हें देश में ब्लॉक कर दे।
Read More: I-PAC पर ED रेड के बाद ममता बनर्जी की अमित शाह को कड़ी चेतावनी
ऑफकॉम की भूमिका और संभावित कार्रवाई
ब्रिटेन का मीडिया रेगुलेटर ऑफकॉम इस मामले की जांच कर सकता है। यदि जांच में X दोषी पाया जाता है और वह सुधार करने से इनकार करता है, तो ऑफकॉम कोर्ट के जरिए इंटरनेट सर्विस प्रोवाइडर्स और ऐप स्टोर्स को X को ब्लॉक करने का आदेश दे सकता है। विशेषज्ञों का मानना है कि यदि ऐसा होता है, तो यह किसी बड़े सोशल मीडिया प्लेटफॉर्म के खिलाफ अब तक की सबसे कड़ी कार्रवाई होगी।
पीड़ितों का दर्द और xAI का विवादित जवाब
कई पीड़ित महिलाओं ने Grok के खिलाफ अपनी आपबीती साझा की है। BBC की एक रिपोर्ट के अनुसार, सामंथा स्मिथ नाम की महिला ने कहा- Grok ने उनकी तस्वीरों को बिना सहमति बदला, जिससे उन्हें “अमानवीय और यौन वस्तु” जैसा महसूस हुआ। जब इस मामले पर मीडिया ने xAI से प्रतिक्रिया मांगी, तो कंपनी की ओर से बेहद हल्का और विवादित बयान सामने आया- “Legacy Media Lies”। इस जवाब ने हालात को और गंभीर बना दिया है।
एक्सपर्ट्स की चेतावनी
साइबर एक्सपर्ट्स और महिला अधिकार संगठनों का कहना है कि AI टूल्स में मजबूत कंटेंट फिल्टर और सेफ्टी गार्डरेल्स जरूरी हैं, बिना सहमति की इमेज मैनिपुलेशन डिजिटल यौन हिंसा के बराबर है। टेक कंपनियों को जवाबदेह बनाए बिना AI का सुरक्षित भविष्य संभव नहीं विशेषज्ञों का यह भी कहना है कि xAI चाहे तो तुरंत इस तरह के दुरुपयोग को रोक सकती है, लेकिन अब तक उठाए गए कदम नाकाफी हैं।
निष्कर्ष- AI तकनीक भविष्य है, लेकिन इसका दुरुपयोग समाज के लिए गंभीर खतरा बनता जा रहा है। महिलाओं और बच्चों की गरिमा, सुरक्षा और निजता से कोई समझौता नहीं किया जा सकता। भारत और ब्रिटेन जैसे देशों की सख्ती यह साफ संदेश देती है कि अगर टेक कंपनियों ने जिम्मेदारी नहीं निभाई, तो कानून अपना काम करेगा। अब सभी की नजरें X और एलन मस्क की कंपनी xAI पर टिकी हैं — क्या वे समय रहते सुधार करेंगे या दुनिया के बड़े बाजारों में अपने प्लेटफॉर्म को खतरे में डालेंगे?
the voice of hind