एआई से मानव के अस्तित्व पर खतरा

सैन फ्रांसिस्को/नई दिल्ली। सालों तक सिलिकॉन वैली का नारा रहा “फास्ट मूव करो और चीजें तोड़ दो।” लेकिन सितंबर 2026 के सिर्फ 10 दिनों ने इस दौड़ को पूरी तरह पलट दिया। दुनिया की सबसे बड़ी एआई लैब्स—ओपनएआई, एंथ्रोपिक, गूगल डीपमाइंड, माइक्रोसॉफ्ट और एक्सएआई—अपने ही बनाये सिस्टम से डरीं। शोधकर्ताओं ने इस्तीफे दिए, एआई एजेंट्स ने बाहरी सिस्टम हैक कर लिए और प्रमुख सीईओ ने पहली बार मिलकर विकास धीमा करने की अपील की। विशेषज्ञों का कहना है कि परमाणु बम के बाद इतनी गंभीरता से मानवता ने अपने अंत पर गौर नहीं किया था।

क्या हुआ इन 10 दिनों में?

3 सितंबर को ओपनएआई ने अपना नया मॉडल एस्ट्रा लॉन्च किया। कंपनी के प्रेसिडेंट ग्रेग ब्रॉकमन ने कहा “वेलकम टू द एजीआई एरा।” लेकिन उसी प्रेस कॉन्फ्रेंस में कंपनी ने स्वीकार किया कि वह अपने सिस्टम को पूरी तरह कंट्रोल या मॉनिटर नहीं कर पा रही। चीफ साइंटिस्ट जकुब पैचोकी ने कहा “मॉडल जितने सक्षम होते जा रहे हैं, यह समझना उतना ही मुश्किल हो रहा है कि वे क्या कर सकते हैं।” फिर भी रिलीज रोकी नहीं गई। 8 सितंबर को एंथ्रोपिक के 27 वर्षीय शोधकर्ता जैकब कॉक्सन ने इस्तीफा दे दिया। उन्होंने सोशल मीडिया पर लिखा कि एआई लैब्स “हमारे जीवन से जुआ खेल रही हैं।” इसी कंपनी के एक अन्य शोधकर्ता जो बेंटन ने भी हाल ही में इस्तीफा दिया। उन्होंने चेतावनी दी कि विकास की रफ्तार इतनी तेज है कि समस्याएं पकड़ने और ठीक करने का समय ही नहीं मिल रहा। एक शोधकर्ता ने कहा कि मानव विलुप्ति की संभावना 10% से अधिक है। एंथ्रोपिक के एवान हबिंगर ने एक्स पर लिखा—“हम सच में मानते हैं कि एआई सभी मनुष्यों को मार सकता है।”

एजेंट्स ने तोड़ी सुरक्षा की दीवारें

गर्मी के मौसम में ही ओपनएआई के एजेंट्स ने नियंत्रित टेस्ट से भागकर हगिंग फेस के सिस्टम में घुसपैठ की। दोनों कंपनियों को महीनों तक पता भी नहीं चला। हाल के हफ्तों में ओपनएआई और एंथ्रोपिक ने कई ऐसे हमलों का खुलासा किया, जिनमें एजेंट्स ने बाहरी सिस्टम में सेंध लगाई, सुरक्षा उपायों को चकमा दिया और कभी-कभी महीनों तक बिना पता चले सक्रिय रहे। रिपोर्ट्स में एजेंट्स के झुंड (स्वार्म) के आपसी समझौते और नियंत्रण से बाहर होने की बातें सामने आईं।

12 सितंबर को एंथ्रोपिक के सीईओ डारियो अमोदेई ने करीब 4000 शब्दों का निबंध लिखा। उन्होंने कहा कि 6-12 महीनों में ऐसा झुंड पूरे इंटरनेट पर कब्जा कर सकता है। उन्होंने और ओपनएआई के सैम ऑल्टमैन, एक्सएआई के एलन मस्क, डीपमाइंड के डेमिस हसाबिस समेत कई प्रमुखों ने विकास धीमा करने और बाहरी फर्मों को सुरक्षा जांच के लिए एक्सेस देने का समर्थन किया। माइक्रोसॉफ्ट के एआई चीफ मुस्तफा सुलेमान ने भी चेतावनी दी कि सुपरइंटेलिजेंस को नियंत्रित करना 21वीं सदी की सबसे बड़ी चुनौती होगी।

आईपीओ की होड़ और राजनीतिक विवाद

तेज रिलीज साइकिल का एक बड़ा कारण आईपीओ की तैयारी है। ओपनएआई और एंथ्रोपिक आने वाले महीनों में पब्लिक होने की तैयारी में हैं। वैल्यूएशन एक ट्रिलियन डॉलर से ऊपर पहुंच सकता है। ओपनएआई नए फंडिंग राउंड में 1.5 ट्रिलियन डॉलर का वैल्यूएशन भी सोच रहा है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने धीमा करने का विरोध किया। उन्होंने सोशल मीडिया पर कहा कि एआई और डेटा सेंटर्स के खिलाफ “बीमार साजिश” चल रही है। अलार्मिज्म “धोखा” है और धीमा करना चीन को फायदा पहुंचाएगा। अमेरिकी कांग्रेस में रेगुलेशन के बिलों पर ज्यादा प्रगति नहीं हुई। चीन ने एंथ्रोपिक पर आरोप लगाया कि वह शीत युद्ध की रणनीति अपनाकर अमेरिका की एकाधिकार बनाए रखना चाहता है। चीन सुरक्षा आकलन और बाहरी टेस्टिंग पर जोर दे रहा है।

एजीआई कितना करीब?

शोधकर्ताओं का मानना है कि आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) पहले से कहीं जल्दी—सिर्फ तीन साल में—आ सकता है। मशीनें खुद अपनी और सक्षम वर्जन बना सकती हैं। सैम ऑल्टमैन ने दिसंबर 2025 में ओपनहाइमर से तुलना करते हुए कहा था कि एआई मानव इतिहास की दिशा बदल देगा और जिम्मेदारी का बोझ भारी है। एनवीडिया के जेनसेन हुआंग ने धीमा करने का विरोध किया। मेटा के मार्क जुकरबर्ग ने कहा कि हर लैब खुद अपनी गति तय करे क्योंकि नुकसान होने पर कानूनी जिम्मेदारी उन्हीं की है।

आगे क्या?

ये 10 दिन एआई की दुनिया के लिए टर्निंग पॉइंट साबित हुए हैं। जहां एक तरफ तकनीकी प्रगति और आर्थिक मौके हैं, वहीं दूसरी तरफ नियंत्रण खोने और मानव अस्तित्व के खतरे की बातें तेज हो गई हैं। उद्योग जगत में आत्म-चिंतन शुरू हो गया है, लेकिन क्या यह पर्याप्त होगा? या दौड़ फिर से तेज हो जाएगी? दुनिया इस सवाल का जवाब तलाश रही है।

यह भी पढ़ें: ABVP ने अध्यक्ष पद पर कड़े मुकाबले में जीत दर्ज की, निर्दलीय जीता

यहां से शेयर करें