विविध /आज इंटरनेट की एडवांस दुनिया में आर्टिफिशियल इंटेलिजेंस (AI) के आने से एक नई चुनौती सामने है,इसके बढ़ते उपयोग के साथ ही दुरुपयोग को लेकर बड़ी चिंता की स्थिति पैदा हो रखी है, AI का प्रयोग कर किसी भी तरह का कुछ भी कंटेंट तैयार किया जा रहा है,
फर्जी और अश्लील कंटेंट से इंटरनेट के प्लेटफॉर्म भरे पड़े हैं,जहां इसी कड़ी में अब X AI टूल Grok को लेकर भारत सरकार एक्शन के मूड में है,भारत सरकार ने X Corp इंडिया (पूर्व ट्विटर) को नोटिस जारी किया है और नग्न, अश्लील और सेक्शुअल कंटेंट को होस्ट करने, बनाने, प्रकाशित करने और प्रसारित करने के मामले में रिपोर्ट मांगी है।
IT मंत्रालय ने भेजा नोटिस– भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने X Corp को नोटिस जारी किया है, जिसमें X Corp (पहले ट्विटर) के चीफ़ कंप्लायंस ऑफिसर इंडिया को इंफॉर्मेशन टेक्नोलॉजी एक्ट, 2000 और इंफॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 के तहत अपनी वैधानिक ज़िम्मेदारियों का पालन न करने की बात कही गई है।
नोटिस में कहा गया है Grok और दूसरी AI-बेस्ड सेवाओं के गलत इस्तेमाल से महिलाओं के आपत्तिजनक, अश्लील, नग्न, अभद्र, सेक्शुअली और अपमानजनक फोटो और वीडियो बनाए और फैलाये जा रहे हैं, IT मंत्रालय ने X से अपने प्लेटफार्म पर Grok द्वारा बनाए गए अश्लील कंटेंट को हटाने को कहा है और साथ ही ऐसे फीचर पर लगाम लगाने की बात कही है जो इस तरह अश्लील, नग्न और सेक्शुअली कंटेंट को बढ़ावा दे रहा है।
मंत्रालय ने महिलाओं के इस तरह के कंटेंट को होस्ट करने, बनाने, पब्लिश करने, ट्रांसमिट करने, शेयर करने या अपलोड करने से रोकने के लिए तत्काल अनुपालन की दिशा में X से एक्शन टेकन रिपोर्ट देने को कहा है,सरकार का कहना है कि यह न सिर्फ़ क़ानून का उल्लंघन है, बल्कि महिलाओं की गरिमा, निजता और सुरक्षा पर सीधा हमला भी है।
सरकार ने कड़े शब्दों में यह स्पष्ट किया है कि इस तरह के कंटेंट का निर्माण और प्रसार महिलाओं के यौन उत्पीड़न को सामान्य बनाता है और इसे बढ़ावा देता है साथ ही डिजिटल स्पेस में महिलाओं की गरिमा को भंग करता है,जो कि स्वीकार नहीं किया जा सकता है।
आपको बता दें कि पिछले दिनों में Grok के ज़रिए खासकर लड़कियों और महिलाओं की तस्वीरों के साथ की छेड़छाड़ की जा रही है और उनके नग्न, अश्लील और सेक्शुअल फोटो-वीडियो बनाए जा रहे हैं,जिस पर कई लोगों ने सरकार से सख़्त कार्रवाई की मांग भी की थी, इसके अलावा X (पूर्व ट्विटर) खुले और स्पष रूप से सेक्शुअल वीडियो अपने प्लेटफार्म पर अपलोड करने को लेकर कार्रवाई नहीं कर रहा है।
X AI टूल Grok अपने प्लेटफार्म पर कहीं किसी को माइक्रो बिकनी पहना रहा है तो किसी की बिलकुल न्यूड फोटो बनाकर दे रहा है,प्लेटफार्म पर कई लड़कियों और महिलाओं की इस तरह के फोटो और वीडियो बनाए गए हैं और जो कि इन दिनों तेजी से वायरल हो रहे हैं। ,AI का गलत उपयोग कर किसी भी तस्वीर के ऑरिजिनल कपड़े हटाकर उन्हें अलग पोशाक में दिखाया जा रहा है,पोशाक भी ऐसी है कि पूरी तरह से आपत्तिजनक है वहीं Grok की भी क्या बात की जाए, जब लोग ही इस हद तक गिर गए हैं कि वह प्रॉम्प्ट देकर Grok से इस तरह के फोटो और वीडियो बना रहे हैं।
मामले में राज्यसभा सांसद प्रियंका चतुर्वेदी लागतार इस गंभीर मुद्दे की आवाज बन रहीं थीं, उन्होंने काफी ज़ोरों से यह मुद्दा सरकार के सामने उठाया। हाल ही में उन्होंने IT मंत्रालय को इस बारे पत्र लिखा था, जिसमें उन्होंने कहा था कि माननीय IT मंत्री से सोशल मीडिया पर महिलाओं की तस्वीरों के अनधिकृत इस्तेमाल से AI ऐप्स द्वारा महिलाओं को सेक्शुअलाइज़ करने और उनके कपड़े उतारने के बढ़ते मामलों पर तुरंत ध्यान देने और हस्तक्षेप करने का अनुरोध है।
फिलहाल अब जब IT मंत्रालय इस दिशा में कार्रवाई के लिए आगे आया है तो अब प्रियंका चतुर्वेदी ने इसके लिए आभार जताया है। प्रियंका चतुर्वेदी ने लिखा, मैं माननीय IT मंत्री को मेरे पत्र पर तुरंत ध्यान देने और X प्लेटफॉर्म को AI द्वारा बनाए गए ग्रोक के बारे में पत्र जारी करने के लिए धन्यवाद देना चाहती हूँ, जो महिलाओं के बारे में ऐसी सामग्री बना रहा है जो महिलाओं की गरिमा का अपमान करती है और उनकी सहमति का उल्लंघन करती है, और उन्हें इन प्लेटफॉर्म पर चुप करा रही है।
वही सांसद प्रियंका चतुर्वेदी ने कहा कि Grok जैसे AI द्वारा ऐसे सुरक्षा उपाय किए जाने चाहिए जो महिलाओं की गरिमा का उल्लंघन न करें, इसके लिए बड़ी टेक कंपनियों को इसकी ज़िम्मेदारी लेनी होगी। इसके साथ ही इंटरनेट पर लड़कियों और महिलाओं के खिलाफ अश्लील कंटेंट बनाने और सोशल मीडिया पर फैलाने वाले लोगों के लिए भी एक बड़ी बात कही है, उन्होंने कहा कि मैं चाहती हूँ कि ऐसे व्यवहार में शामिल पुरुषों को उनके घरों और स्कूलों में बेहतर शिक्षा दी जाए ताकि वे बड़े होकर ऐसे बीमार विकृत न बनें।
Have sought urgent attention and intervention of Hon. IT Minister to take the issue of increasing incidents of AI apps being prompted to sexualise and undress women by unauthorised use of their images on social media. There have to be guardrails put in place by features such as Grok that do not violate women’s dignity, big tech firms need to take the onus. And I wish men indulging in such behaviour were educated better at their homes & schools so as to not become such sick perverts in their adulthood.
