Grok AI row: भारत द्वारा Grok AI को फ्लैग करने के कुछ दिनों बाद अब ब्रिटेन के मीडिया रेगुलेटर Ofcom ने एलन मस्क की सोशल मीडिया प्लेटफॉर्म X की औपचारिक जांच शुरू कर दी है। जांच का फोकस Grok AI के इमेज जनरेशन टूल पर है, जिसके जरिए कथित तौर पर महिलाओं और बच्चों की नॉन-कंसेंशुअल (बिना सहमति) सेक्सुअलाइज्ड डीपफेक इमेज बनाई जा रही हैं। Ofcom ने इसे “गहराई से चिंताजनक” बताया है।
Ofcom के बयान के अनुसार, “Grok AI चैटबॉट का इस्तेमाल करके लोगों की ‘अनड्रेस्ड’ (नग्न या अर्धनग्न) इमेज बनाई और शेयर की जा रही हैं, जो इंटीमेट इमेज अब्यूज या पोर्नोग्राफी की श्रेणी में आ सकती हैं। साथ ही बच्चों की सेक्सुअलाइज्ड इमेज बनाई जा रही हैं, जो चाइल्ड सेक्शुअल अब्यूज मटेरियल (CSAM) के दायरे में आती हैं।” यह जांच ब्रिटेन के ऑनलाइन सेफ्टी एक्ट के तहत हो रही है, जिसमें प्लेटफॉर्म्स पर अवैध कंटेंट रोकने की जिम्मेदारी तय की गई है। Ofcom ने कहा कि जांच को “सर्वोच्च प्राथमिकता” दी जाएगी और अगर जरूरी हुआ तो सख्त कार्रवाई हो सकती है, जिसमें प्लेटफॉर्म पर प्रतिबंध भी शामिल है।
पृष्ठभूमि और अंतरराष्ट्रीय बैकलैश
• पिछले हफ्ते भारत सरकार ने X को निर्देश दिया था कि Grok में तकनीकी और प्रक्रियात्मक बदलाव किए जाएं, क्योंकि यूजर्स इसका दुरुपयोग करके महिलाओं की अश्लील इमेज बना रहे थे। भारत में “बिकिनी ट्रेंड” जैसी घटनाओं ने विवाद बढ़ाया।
• इसके बाद इंडोनेशिया और मलेशिया ने Grok तक पहुंच को अस्थायी रूप से ब्लॉक कर दिया, क्योंकि वहां इसे मानव गरिमा और डिजिटल सुरक्षा का उल्लंघन माना गया।
• यूरोपीय संघ की अध्यक्ष उर्सुला वॉन डेर लेयेन ने भी X पर Grok से बने सेक्सुअल डीपफेक के प्रसार की आलोचना की।
X और Grok की प्रतिक्रिया
विवाद बढ़ने पर X ने Grok की इमेज जनरेशन और एडिटिंग सुविधा को पेड सब्सक्राइबर्स (प्रीमियम यूजर्स) तक सीमित कर दिया था, लेकिन रिपोर्ट्स के मुताबिक समस्या बनी हुई है। एलन मस्क या xAI की ओर से इस नई जांच पर अभी कोई आधिकारिक बयान नहीं आया है।
यह मामला AI टूल्स के दुरुपयोग और ऑनलाइन सेफ्टी से जुड़े वैश्विक चिंताओं को उजागर कर रहा है। विशेषज्ञों का कहना है कि बिना मजबूत सेफगार्ड्स के ऐसे टूल्स गंभीर खतरा बन सकते हैं। जांच के नतीजे क्या होंगे, यह आने वाले दिनों में साफ होगा। यह एक डेवलपिंग स्टोरी है और अपडेट्स आते रहेंगे।
