आर्टिफिशियल इंटेलिजेंस की दुनिया में इस समय सिर्फ नई तकनीक बनाने की होड़ नहीं चल रही, बल्कि इस होड़ के खतरों को लेकर AI कंपनियों के भीतर से ही बेहद गंभीर सवाल उठने लगे हैं। Anthropic के रिसर्चर जैकब कॉक्सन ने कंपनी से इस्तीफा देते हुए आरोप लगाया है कि OpenAI और Anthropic दोनों “सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस” की तरफ तेजी से बढ़ रहे हैं और यह दौड़ मानवता के लिए बेहद खतरनाक हो सकती है।
कॉक्सन ने X पर लिखा कि उन्होंने पिछले तीन वर्षों में OpenAI और Anthropic दोनों में AI प्री-ट्रेनिंग रिसर्च पर काम किया है। उनका आरोप है कि दोनों कंपनियां जिम्मेदारी से काम नहीं कर रहीं और “सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस” की दौड़ में लगी हैं।
उनका सबसे गंभीर दावा है कि AI बनाने वाले कई लोग निजी तौर पर इस बात को लेकर वास्तविक भय रखते हैं कि यह तकनीक दशक खत्म होने से पहले ही मानवता के अस्तित्व के लिए खतरा बन सकती है। कॉक्सन के अनुसार यह कोई मार्केटिंग स्टंट नहीं है, बल्कि AI के अंदर काम करने वाले लोगों के बीच मौजूद वास्तविक चिंता है।
और यहीं मामला और गंभीर हो जाता है।
Anthropic के Alignment Science से जुड़े शोधकर्ता Evan Hubinger ने कॉक्सन की बात का समर्थन करते हुए कहा कि AI के कारण अगले दशक में पूरी मानवता के खत्म होने की संभावना उनके निजी आकलन में 10 प्रतिशत से अधिक है। साथ ही उन्होंने स्वीकार किया कि सुपरइंटेलिजेंस को मानव मूल्यों के अनुरूप रखने यानी ‘alignment’ की समस्या का अभी कोई सुनिश्चित समाधान उनके पास नहीं है।
यानी खतरे की बात किसी बाहरी आलोचक ने नहीं, बल्कि उसी उद्योग के भीतर काम कर रहे शोधकर्ताओं ने उठाई है।
दूसरी तरफ सत्य नडेला की चेतावनी भी कम गंभीर नहीं
इसी पूरे AI संकट का दूसरा पहलू Microsoft के CEO सत्य नडेला की उस चेतावनी में दिखाई देता है, जिसे उन्होंने जुलाई में X पर रखा था।
नडेला ने इसे “Reverse Information Paradox” नाम दिया। उनका तर्क है कि AI इस्तेमाल करते समय कंपनियां सिर्फ AI सेवा के लिए पैसा नहीं दे रहीं, बल्कि उसे बेहतर और उपयोगी बनाने के लिए अपनी सबसे मूल्यवान चीज अपना संस्थागत ज्ञान भी दे रही हैं।
किसी कंपनी के कर्मचारी AI को जितने ज्यादा prompts देते हैं, उसकी गलतियां सुधारते हैं, अपने workflows बताते हैं और उसके जवाबों को evaluate करते हैं, उतना ही ज्यादा उस कंपनी का वास्तविक कामकाजी ज्ञान AI सिस्टम के संपर्क में आता है।
नडेला का सवाल यही है कि इस प्रक्रिया में पैदा होने वाला ज्ञान आखिर किसका है?
उनके मुताबिक कंपनियों को अपनी AI ‘learning loop’, डेटा, evaluations, institutional memory और दूसरे ज्ञान-संसाधनों पर नियंत्रण बनाए रखना चाहिए। उन्होंने इसके लिए Control, Capability, Choice, Cost और Compound जैसे पांच सिद्धांत सुझाए हैं।
दिलचस्प बात यह है कि दोनों चेतावनियां एक ही खतरे की अलग-अलग तस्वीर दिखाती हैं
सत्य नडेला की चिंता मुख्यतः यह है कि AI इस्तेमाल करते-करते कंपनियां अपनी बौद्धिक संपदा और संस्थागत ज्ञान पर नियंत्रण खो सकती हैं।
जैकब कॉक्सन की चिंता इससे कहीं आगे की है, अगर AI सिस्टम खुद को लगातार बेहतर बनाने लगें और मानव क्षमताओं से आगे निकल जाएं तो क्या इंसान उनके व्यवहार को नियंत्रित कर पाएगा?
यानी सवाल अब सिर्फ यह नहीं है कि AI हमारी नौकरियां लेगा या नहीं। सवाल यह भी है कि AI को विकसित करने की दौड़ में नियंत्रण किसके हाथ में रहेगा?
और उससे भी बड़ा सवाल, अगर एक दिन AI खुद को इंसानों से तेज गति से सुधारने लगे तो उसे रोकने की क्षमता किसके पास होगी?
कॉक्सन का कहना है कि AI लैब्स के बीच प्रतिस्पर्धा ऐसी स्थिति पैदा कर रही है जिसमें प्रत्येक कंपनी को डर है कि यदि उसने विकास की रफ्तार कम की तो कोई दूसरी कंपनी आगे निकल जाएगी। उनका तर्क है कि इस तरह की “race” में शामिल होना और alignment को तेजी से हल करने की कोशिश करना बेहद जोखिमपूर्ण जुआ है।
हालांकि यहां एक महत्वपूर्ण सावधानी जरूरी है: मानवता के दशक के अंत तक खत्म होने की बात कोई वैज्ञानिक रूप से सिद्ध भविष्यवाणी नहीं है। यह कॉक्सन और कुछ AI सुरक्षा शोधकर्ताओं का जोखिम-आकलन है। दूसरी ओर AI के संभावित अस्तित्वगत खतरे को लेकर विशेषज्ञ समुदाय में गंभीर मतभेद भी हैं। इसलिए इसे “AI निश्चित रूप से इंसानों को खत्म कर देगा” के रूप में पेश करना तथ्यात्मक रूप से सही नहीं होगा।
लेकिन यह तथ्य अपने आप में बेहद महत्वपूर्ण है कि AI बनाने वाली कंपनियों के भीतर से ही ऐसे लोग सामने आ रहे हैं जो कह रहे हैं कि विकास की रफ्तार और सुरक्षा के बीच संतुलन बिगड़ रहा है।
और शायद यही इस पूरी कहानी का सबसे बड़ा समाचार है।
AI का भविष्य सिर्फ Silicon Valley की प्रयोगशालाओं में तय नहीं होगा। अब यह सवाल मानव सभ्यता की सुरक्षा, कंपनियों के नियंत्रण और तकनीक की जवाबदेही का सवाल बन चुका है।
