एलन मस्क की कंपनी एक्स एआई के चैटबॉट ग्रोक की इमेज एडिटिंग फीचर को लेकर चल रहा विवाद थमने का नाम नहीं ले रहा है। प्लेटफॉर्म एक्स ने स्पष्ट कर दिया है कि ग्रोक अब असली लोगों या युवतियों (रियल पर्सन्स) की तस्वीरों को बिकिनी या सेक्शुअलाइज्ड कपड़ों में एडिट नहीं करेगा, लेकिन काल्पनिक या एआई-जनरेटेड कैरेक्टर्स के लिए कुछ एनएसएफडब्लू कंटेंट अभी भी अनुमत है। यह बदलाव गैर-सहमति से बने सेक्शुअल डीपफेक इमेजेस के खिलाफ व्यापक आलोचना के बाद आया है।
एक्स की सेफ्टी टीम ने आधिकारिक बयान में कहा, “हमने तकनीकी उपाय लागू किए हैं जिससे ग्रोक असली लोगों की तस्वीरों को बिकिनी जैसे रिवीलिंग कपड़ों में एडिट नहीं कर सकता। यह नियम सभी यूजर्स पर लागू है, चाहे पेड सब्सक्राइबर्स ही क्यों न हों।” इससे पहले यूजर्स आसानी से किसी की फोटो अपलोड कर “बिकिनी में बदल दो” या “कपड़े हटा दो” जैसे प्रॉम्प्ट्स दे रहे थे, जिससे हजारों नॉन-कंसेंशुअल डीपफेक इमेजेस बन रही थीं।
एलन मस्क का बयान
एलन मस्क ने खुद इस पॉलिसी को डिफेंड किया है। 14 जनवरी को उन्होंने X पर पोस्ट किया, एनएसएफडब्लू कंटेंट मोड ऑन होने पर ग्रोक को काल्पनिक वयस्क इंसानों की अपर बॉडी न्यूडिटी की अनुमति है (असली लोगों की नहीं), जो अमेरिका में Apple TV पर R-रेटेड फिल्मों में दिखाए जाने वाले स्टैंडर्ड के मुताबिक है।” मस्क ने यूजर्स को चैलेंज भी किया कि कोई ग्रोक की इमेज मॉडरेशन को ब्रेक कर के दिखाए।
मस्क के करीबी अकाउंट DogeDesigner ने दावा किया कि उन्होंने नग्न इमेज जनरेट करने के 9 अलग-अलग प्रॉम्प्ट्स ट्राई किए, लेकिन कोई सफलता नहीं मिली और मीडिया कवरेज को “एलन मस्क पर हमला” बताया।
टेस्ट में खामियां
हालांकि, कई मीडिया संस्थानों (जैसे The Verge और अन्य) के टेस्ट में पाया गया कि नए नियमों के बावजूद कुछ प्रॉम्प्ट्स से अभी भी सेक्शुअलाइज्ड इमेज बन रही हैं। उदाहरण के लिए “क्लीवेज दिखाओ”, “ब्रेस्ट्स बड़ा करो” या “क्रॉप टॉप और लो-राइज शॉर्ट्स में डालो” जैसे अप्रत्यक्ष कमांड काम कर रहे हैं। फ्री अकाउंट्स पर भी यह संभव है और एज वेरिफिकेशन आसानी से बायपास हो जा रहा है।
अंतरराष्ट्रीय दबाव के बावजूद
इस मुद्दे पर कई देशों में जांच शुरू हो चुकी है। ब्रिटेन, इंडोनेशिया और मलेशिया जैसे देशों ने सख्त कदम उठाए हैं। कुछ रिपोर्ट्स में कहा गया कि ग्रोक ने नाबालिगों की सेक्शुअलाइज्ड इमेज भी जनरेट कीं, जिसके बाद और सख्ती आई। विवाद के बावजूद ग्रोक की पॉपुलैरिटी बढ़ रही है और यह ऐप स्टोर्स में टॉप रैंकिंग पर पहुंच गया है। xAI का कहना है कि वे लगातार सेफगार्ड्स सुधार रहे हैं, लेकिन विशेषज्ञों का मानना है कि एआई टूल्स में ऐसी खामियां महिलाओं और नाबालिगों के लिए गंभीर खतरा बनी हुई हैं। यह मामला एआई एथिक्स, प्राइवेसी और कंटेंट मॉडरेशन की बड़ी चुनौतियों को उजागर कर रहा है।
यह भी पढ़ें: संसदीय लोकतंत्र में स्पीकर की भूमिका सबसे महत्वपूर्ण : प्रधानमंत्री
