एलन मस्क के X और Grok AI पर सरकार सख्त

Big News: नई दिल्ली। केंद्र सरकार ने एलन मस्क के इंटरनेट मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) और उसकी एआई सेवा Grok AI के खिलाफ सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को निर्देश दिया है कि वह प्लेटफॉर्म पर मौजूद सभी अश्लील, आपत्तिजनक और गैर-कानूनी कंटेंट, खासकर Grok AI द्वारा जनरेट किए गए कंटेंट को तत्काल हटाए। आदेश की अवहेलना पर कानूनी कार्रवाई की चेतावनी दी गई है।

Big News:

वैधानिक दायित्वों के उल्लंघन पर नोटिस

मंत्रालय ने भारत में X के मुख्य अनुपालन अधिकारी को सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत उचित सतर्कता (ड्यू डिलिजेंस) का पालन न करने को लेकर नोटिस जारी किया है।
2 जनवरी को जारी आदेश में कहा गया है कि कानूनों का उल्लंघन कर पहले से बनाए या प्रसारित किए गए सभी कंटेंट को निर्धारित समय-सीमा के भीतर, बिना किसी देरी के हटाया जाए या उन तक पहुंच डिसेबल की जाए, साथ ही साक्ष्यों को सुरक्षित रखा जाए।

72 घंटे में एक्शन रिपोर्ट तलब

मंत्रालय ने X को आपत्तिजनक कंटेंट, संबंधित यूजर्स और अकाउंट्स के खिलाफ कार्रवाई करने के निर्देश दिए हैं। इसके साथ ही आदेश की तारीख से 72 घंटे के भीतर विस्तृत कार्रवाई रिपोर्ट सौंपने को कहा गया है।
सरकार का कहना है कि सार्वजनिक चर्चा और विभिन्न संसदीय हितधारकों से समय-समय पर ऐसी सूचनाएं मिली हैं, जिनसे संकेत मिलता है कि X पर प्रसारित कुछ कंटेंट शालीनता और अश्लीलता से जुड़े कानूनों के अनुरूप नहीं हैं।

सांसद की शिकायत के बाद बढ़ी सख्ती

इससे पहले राज्यसभा सांसद प्रियंका चतुर्वेदी ने केंद्रीय मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok AI के दुरुपयोग से महिलाओं की अश्लील तस्वीरें बनाने और उन्हें सोशल मीडिया पर पोस्ट करने की बढ़ती घटनाओं पर तत्काल हस्तक्षेप की मांग की थी।
आदेश में कहा गया है कि यूजर्स फर्जी अकाउंट बनाकर Grok AI का दुरुपयोग कर महिलाओं की अश्लील तस्वीरें या वीडियो बनाने, होस्ट करने, प्रकाशित करने और साझा कर रहे हैं।

यूजर्स पर भी हो सकती है कार्रवाई

मंत्रालय ने स्पष्ट किया है कि मामला सिर्फ फर्जी अकाउंट तक सीमित नहीं है। Grok AI के जरिए उन महिलाओं को भी निशाना बनाया जा रहा है, जो अपनी तस्वीरें या वीडियो ऑनलाइन साझा करती हैं।
सरकार के मुताबिक यह प्लेटफॉर्म-स्तरीय सुरक्षा तंत्र की गंभीर विफलता को दर्शाता है और एआई तकनीक का घोर दुरुपयोग है।
गैर-अनुपालन की स्थिति में आईटी एक्ट, आईटी नियम, बीएनएसएस, बीएनएस समेत अन्य कानूनों के तहत प्लेटफॉर्म, जिम्मेदार अधिकारियों और कानून तोड़ने वाले यूजर्स के खिलाफ सख्त कार्रवाई की जा सकती है।

Grok की तकनीकी समीक्षा के निर्देश

मंत्रालय ने X और मस्क के स्टार्टअप xAI से Grok AI की व्यापक तकनीकी, प्रक्रियात्मक और प्रशासनिक समीक्षा करने को कहा है। इसमें प्रॉम्प्ट-प्रोसेसिंग, आउटपुट जेनरेशन, इमेज हैंडलिंग और सेफ्टी गार्डरेल्स शामिल होंगे, ताकि यह सुनिश्चित हो सके कि एप किसी भी रूप में नग्नता, यौन कृत्य, यौन प्रदर्शन या अन्य गैर-कानूनी कंटेंट न बनाए और न ही प्रमोट करे।

Grok की सफाई

xAI के चैटबॉट Grok ने सफाई देते हुए स्वीकार किया कि सुरक्षा उपायों में चूक के कारण X पर “कम कपड़ों में नाबालिगों को दिखाने वाली तस्वीरें” सामने आईं। Grok ने कहा कि ऐसे मामलों को रोकने के लिए सुधार किए जा रहे हैं।
X पर साझा किए गए स्क्रीनशॉट्स में Grok के पब्लिक मीडिया टैब पर आपत्तिजनक तस्वीरों की मौजूदगी दिखाई गई, जिनके बारे में यूजर्स का दावा है कि तस्वीरें अपलोड कर बदलाव के लिए कहने पर उन्हें बदला गया।
Grok ने कहा, “कुछ मामलों में यूजर्स के अनुरोध पर एआई तस्वीरें बनीं, जिनमें नाबालिगों को कम कपड़ों में दिखाया गया। ऐसे अनुरोधों को पूरी तरह ब्लॉक करने के लिए सुरक्षा उपायों में सुधार जारी हैं।”
बाल यौन शोषण सामग्री को अवैध बताते हुए Grok ने कहा कि चूक की पहचान कर उसे तुरंत ठीक किया जा रहा है, हालांकि इस पर और विवरण साझा नहीं किया गया।