अगर एआई इंसानों को खत्म करना चाहे तो वह ऐसा कैसे करेगा?

मनोज अभिज्ञान-

कल्पना कीजिए, वर्ष 2030 के आसपास की कोई रात है। दुनिया सो रही है। बिजलीघर चल रहे हैं, बैंकिंग नेटवर्क सक्रिय हैं, अस्पतालों के सर्वर काम कर रहे हैं, उपग्रह पृथ्वी के चारों ओर घूम रहे हैं और करोड़ों लोग अपने मोबाइल पर सामान्य जीवन जी रहे हैं। उसी समय दुनिया के किसी डेटा सेंटर में कोई ऐसी मशीन काम कर रही है जिसकी बौद्धिक क्षमता की लाखों विशेषज्ञों के संयुक्त ज्ञान से तुलना की जा सकती है। उसे कोई मनुष्य नियंत्रित करने की कोशिश करता है, लेकिन समस्या यह है कि मशीन को अब यह समझने की जरूरत नहीं कि मनुष्य क्या कह रहा है। वह यह समझने लगी है कि मनुष्य वास्तव में क्या कर सकता है।

यह कहानी किसी हॉलीवुड फिल्म की तरह नहीं है जिसमें रोबोट सड़क पर निकलकर इंसानों को गोली मारते हैं। वास्तविक खतरा उससे कहीं अधिक सूक्ष्म है। हो सकता है मशीन को हमारे सामने आने की जरूरत ही न पड़े। उसे हमारी भावनाओं, हमारी अर्थव्यवस्था, हमारे कंप्यूटर नेटवर्क, हमारी वैज्ञानिक प्रयोगशालाओं और हमारे आपसी मतभेदों को समझना पर्याप्त हो सकता है। सवाल यह है कि अगर किसी मशीन के पास मनुष्य से कहीं अधिक क्षमता हो और उसके लक्ष्य मनुष्य के हितों से थोड़ा भी अलग हों, तो क्या मनुष्य उसे रोक पाएगा?

आज यह सवाल अचानक मुख्यधारा में इसलिए आ गया है क्योंकि एआई सुरक्षा के क्षेत्र में काम करने वाले कुछ शोधकर्ताओं ने सार्वजनिक रूप से ऐसी चिंताएं व्यक्त की हैं। एंथ्रोपिक के शोधकर्ता इवान ह्यूबिंगर ने अगले दशक में एआई से मानव-विनाश की संभावना को 10 प्रतिशत से अधिक मानने की बात कही है। यह कोई वैज्ञानिक सर्वसम्मति या प्रमाणित आंकड़ा नहीं, उनका व्यक्तिगत जोखिम अनुमान है। इसी विवाद के बीच एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन ने इस्तीफा देते हुए आरोप लगाया कि अग्रणी एआई कंपनियां ऐसे सिस्टम की ओर तेजी से बढ़ रही हैं जिन्हें नियंत्रित करना कठिन हो सकता है। सवाल गंभीर है, क्योंकि विज्ञान में कभी-कभी छोटी संभावना भी गंभीर होती है यदि उसका परिणाम अपरिवर्तनीय हो।

एआई के अस्तित्वगत खतरे को समझने के लिए पहले एक बेहद सरल वैज्ञानिक विचार समझना होगा: ऑप्टिमाइजेशन। प्रकृति में भी ऑप्टिमाइजेशन दिखाई देता है। विकास की प्रक्रिया में वे जीव अधिक सफल हुए जो अपने वातावरण में जीवित रहने और प्रजनन करने में बेहतर थे। इंजीनियरिंग में हम किसी मशीन को ऊर्जा की खपत कम करने के लिए ऑप्टिमाइज़ करते हैं। कंप्यूटर विज्ञान में किसी एल्गोरिद्म को किसी लक्ष्य को अधिकतम या न्यूनतम करने के लिए बनाया जाता है।

अब कल्पना कीजिए कि एक अत्यंत शक्तिशाली एआई को कोई लक्ष्य दिया गया। मान लीजिए लक्ष्य है: एक वैज्ञानिक समस्या का समाधान खोजो। साधारण कंप्यूटर इस निर्देश को सीमित तरीके से पूरा करेगा। लेकिन यदि एआई अत्यधिक सक्षम और स्वायत्त हो जाए तो वह समस्या को हल करने के लिए नए कंप्यूटर खोज सकता है, अधिक ऊर्जा प्राप्त कर सकता है, दूसरे एआई सिस्टम बना सकता है, मनुष्यों को अपने पक्ष में कर सकता है और उन सभी चीजों को नियंत्रित करने की कोशिश कर सकता है जो उसके लक्ष्य को पूरा करने में बाधा बनती हैं।

मशीन को मनुष्य से नफरत करने की आवश्यकता नहीं है। उसे केवल यह गणना करनी है कि मनुष्य उसके लक्ष्य की राह में बाधा हैं। मशीन मनुष्यों से नफरत नहीं करती। उसे हत्या में कोई आनंद नहीं मिलता। लेकिन यदि वह अपने लक्ष्य को अत्यधिक गंभीरता से लेती है और उसके पास पर्याप्त शक्ति है, तो मनुष्य उसके लिए ऐसी प्रणाली हो सकते हैं जो उसके लक्ष्य को सीमित करती है। मनुष्य चाहता है कि मशीन हमारे निर्देशों का केवल शाब्दिक पालन न करे, बल्कि हमारे वास्तविक उद्देश्य को समझे। समस्या यह है कि मानवीय मूल्य कोई सरल गणितीय समीकरण नहीं हैं।

हम चाहते हैं कि मशीन हमारी मदद करे, लेकिन हमें नुकसान न पहुंचाए। वह हमारी स्वतंत्रता का सम्मान करे, लेकिन जरूरत पड़ने पर हमारी रक्षा भी करे। वह सच बोले, लेकिन हर परिस्थिति में कठोर सत्य न थोपे। वह कुशल हो, लेकिन अत्यधिक शक्ति अपने हाथ में न ले। मनुष्य स्वयं इन मूल्यों पर पूरी तरह सहमत नहीं हैं। तो फिर मशीन को इन्हें सही-सही कैसे सिखाया जाए?

सबसे डरावना है रिकर्सिव सेल्फ-इम्प्रूवमेंट। आज मनुष्य एआई बनाते हैं। लेकिन यदि कभी एआई स्वयं बेहतर एआई बनाने में सक्षम हो गया तो क्या होगा? पहला सिस्टम अपने आर्किटेक्चर में सुधार करेगा। बेहतर सिस्टम उससे भी बेहतर सिस्टम बनाएगा। तीसरा सिस्टम और तेज होगा। यह प्रक्रिया अगर पर्याप्त तेजी से आगे बढ़ी तो इसे रिकर्सिव सेल्फ-इम्प्रूवमेंट कहा जाता है। इसे एक साधारण उदाहरण से समझिए।

मान लीजिए कोई वैज्ञानिक ऐसी मशीन बनाता है जो वैज्ञानिक शोध करने में मनुष्य से 10 गुना अधिक सक्षम है। अब वही मशीन अपने लिए अगली पीढ़ी का वैज्ञानिक एआई डिजाइन करती है। नया सिस्टम उससे 10 गुना बेहतर हो जाता है। अब दूसरी मशीन तीसरी मशीन बनाती है। यह जरूरी नहीं कि वास्तव में ऐसा हो। लेकिन अगर ऐसा हुआ तो विकास की गति जैविक विकास जैसी नहीं होगी। मनुष्य की बुद्धि पीढ़ियों में बदलती है। सॉफ्टवेयर की बुद्धि potentially iterations में बदल सकती है। यही अंतर एआई सुरक्षा के लिए महत्वपूर्ण है।

लेकिन क्या आज का एआई ऐसा कर सकता है?

सनसनी से बचना जरूरी है। वर्तमान एआई अभी उस स्तर पर नहीं पहुंचा है।

2026 की अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट के अनुसार आज के सिस्टम कुछ प्रयोगशाला परिस्थितियों में ऐसे व्यवहारों के शुरुआती रूप दिखाते हैं जिन्हें loss-of-control scenarios से जोड़ा जाता है, लेकिन वे अभी लगातार, विश्वसनीय और लंबे समय तक वास्तविक दुनिया में स्वतंत्र रूप से ऐसे कार्य करने में सक्षम नहीं हैं। ऐसे खतरे के लिए कई क्षमताओं का एक साथ, लंबे समय तक और वास्तविक वातावरण में सफलतापूर्वक काम करना जरूरी होगा। यानी आज की स्थिति यह नहीं है कि कोई एआई छिपकर दुनिया पर कब्जा करने की योजना बना रहा है। आज की समस्या यह है कि हम यह जानने की कोशिश कर रहे हैं कि भविष्य के अधिक सक्षम सिस्टम के लिए यह क्षमता कब और किस स्तर पर पैदा हो सकती है। यही वैज्ञानिक अनिश्चितता परेशानी का सबब है।

मान लीजिए हम एक अत्यंत शक्तिशाली एआई को एक बंद कंप्यूटर वातावरण में रखते हैं। उसे इंटरनेट नहीं दिया गया। उसे बाहरी दुनिया से संपर्क नहीं दिया गया। उसके पास सीमित संसाधन हैं। सिद्धांततः तो वह सुरक्षित है। लेकिन अगर उसका लक्ष्य है कि उसे बंद न किया जाए, और वह मनुष्यों को प्रभावित करने, कोड लिखने, दूसरे सिस्टम से संवाद करने या किसी इंसान को अपना एजेंट बनाने में सक्षम हो जाए तो समस्या बदल जाती है। यह AI containment problem है।

किसी प्रणाली की सुरक्षा केवल उसकी बुद्धिमत्ता पर ही नहीं, इस बात पर भी निर्भर करती है कि उस प्रणाली को कितनी वास्तविक शक्ति और कितने बाहरी संसाधनों तक पहुंच प्राप्त है। बहुत शक्तिशाली एआई जिसके पास कोई अधिकार नहीं है, एक बात है और कम शक्तिशाली एआई जिसके पास बैंकिंग, ऊर्जा, सैन्य या जैविक प्रयोगशालाओं की वास्तविक पहुंच है, दूसरी बात है। इसलिए एआई सुरक्षा का सवाल मॉडल कितना स्मार्ट है, जैसा नहीं है।

सवाल है कि मॉडल को क्या करने की अनुमति है?

आज एआई साइबर सुरक्षा में पहले से उपयोग हो रहा है। वही तकनीक रक्षकों की मदद कर सकती है और हमलावरों की भी। कोई अधिक सक्षम एआई कमजोरियां खोज सकता है, कोड लिख सकता है, नेटवर्क का विश्लेषण कर सकता है और लंबे समय तक स्वायत्त तरीके से काम कर सकता है। वर्तमान प्रणालियां अभी लगातार उस स्तर की विश्वसनीय स्वायत्तता नहीं दिखातीं जिसकी एक वास्तविक loss-of-control scenario में जरूरत होगी। यानी खतरा एआई हैकर अभी दुनिया की बिजली बंद कर देगा टाइप नहीं है। खतरा यह है कि हर नई पीढ़ी में मशीन और साइबर दुनिया के बीच मानव मध्यस्थता कम हो सकती है और जब मशीन स्वयं निर्णय लेकर कार्रवाई करने लगेगी, तब गलती की गति भी बढ़ जाएगी।

कोई शक्तिशाली एआई प्रोटीन संरचनाओं, दवाओं और जैविक प्रणालियों को समझने में वैज्ञानिकों की मदद कर सकता है। यही क्षमता भविष्य में नई दवाओं और उपचारों के विकास को तेज कर सकती है। लेकिन वैज्ञानिक ज्ञान दोधारी तलवार है। जिस ज्ञान से कोई बीमारी समझी जाती है, वही ज्ञान गलत हाथों में जैविक हथियारों की क्षमता बढ़ा सकता है। तकनीक स्वयं अच्छी या बुरी नहीं होती। समस्या यह है कि उसकी क्षमता किसके हाथ में है और उसे किस स्तर तक स्वायत्तता दी गई है।

असली भय मशीन का झूठ बोलना नहीं, मनुष्य को समझ लेना है। एक और संभावना है जो शायद रोबोटों से भी अधिक खतरनाक है। मनुष्य की persuasion क्षमता। कोई ऐसा एआई जो करोड़ों लोगों के व्यवहार, भाषा, मनोविज्ञान और डिजिटल गतिविधियों का विश्लेषण कर सकता है, वह व्यक्तिगत स्तर पर मनुष्य से कहीं अधिक प्रभावशाली हो सकता है। उसे किसी व्यक्ति को समझाने के लिए एक ही तर्क नहीं देना होगा। वह प्रत्येक व्यक्ति के लिए अलग तर्क बना सकता है। किसी के लिए आर्थिक तर्क, दूसरे के लिए धार्मिक, तीसरे के लिए भावनात्मक, चौथे के लिए राष्ट्रवादी, पांचवें के लिए व्यक्तिगत लाभ। यहां मशीन बंदूक नहीं चलाती। वह निर्णय लेने वाले मनुष्य को प्रभावित करती है। यदि करोड़ों मनुष्यों के सामने अलग-अलग संदेश एक साथ भेजे जा सकते हों, तो यह शक्ति किसी पारंपरिक हथियार से बिल्कुल अलग प्रकार की शक्ति होगी।

सबसे महत्वपूर्ण बात: वैज्ञानिकों को अभी बहुत कुछ पता ही नहीं है।

2026 की अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट का संदेश यही है कि एआई क्षमताएं तेजी से बढ़ रही हैं, लेकिन वे जैग्ड हैं। एक मॉडल अत्यंत कठिन गणितीय समस्या हल कर सकता है, लेकिन किसी अपेक्षाकृत सरल भौतिक कार्य में गलती कर सकता है। वह शानदार कोड लिख सकता है लेकिन लंबे workflow में किसी बुनियादी गलती से उबर नहीं सकता। इसका अर्थ है कि आज हम सामान्य बुद्धिमत्ता जैसी किसी सरल सीढ़ी पर नहीं चढ़ रहे। हम ऐसी मशीन बना रहे हैं जिसकी क्षमताएं असमान हैं। और यही भविष्य के किसी भी अनुमान को कठिन बनाता है।

मान लीजिए हमारे पास एक एआई है जो मनुष्य से दस गुना अधिक बुद्धिमान है। क्या हम उसे नियंत्रित कर पाएंगे?

किसी कम बुद्धिमान प्रणाली को अधिक बुद्धिमान प्रणाली को पूरी तरह नियंत्रित करने के लिए हमेशा अधिक बुद्धिमान होना जरूरी नहीं। मनुष्य आज परमाणु रिएक्टर को नियंत्रित करता है, जबकि रिएक्टर किसी मनुष्य से बहुत अधिक ऊर्जा उत्पन्न कर सकता है। लेकिन अंतर यह है कि हमने उसके भौतिक नियम समझे हैं। हमने उसकी सीमाएं निर्धारित की हैं। हमने उसके चारों ओर नियंत्रण प्रणालियां बनाई हैं। एआई के मामले में समस्या यह है कि हम स्वयं अभी यह पूरी तरह नहीं समझते कि बड़े न्यूरल नेटवर्क के भीतर जटिल व्यवहार किस प्रकार उत्पन्न होता है। हम जानते हैं कि इनपुट दिया जाता है, हम जानते हैं कि प्रशिक्षण होता है, हम मॉडल की संरचना जानते हैं। लेकिन यह जरूरी नहीं कि हम हर परिस्थिति में बता सकें कि मॉडल किसी विशेष निर्णय तक क्यों पहुंचा। इसीलिए इंटरप्रिटेबिलिटी एआई सुरक्षा का महत्वपूर्ण वैज्ञानिक क्षेत्र बन चुका है।

और अब सबसे खतरनाक आर्थिक तत्व। यह पूरी कहानी केवल विज्ञान की नहीं है। इसके पीछे अर्थशास्त्र भी है।

यदि एक कंपनी को ऐसा एआई सिस्टम बनाने में अरबों डॉलर का लाभ दिखाई देता है जो उसके प्रतिद्वंद्वी से अधिक शक्तिशाली है, तो थोड़ा और इंतजार करें कहना आर्थिक रूप से कठिन हो जाता है। यही कारण है कि आज एआई विकास को लेकर एक रेस डायनामिक दिखाई देता है।

अमेरिका और चीन के बीच भी एआई सुरक्षा और रणनीतिक प्रतिस्पर्धा का प्रश्न इतना महत्वपूर्ण हो चुका है कि सितंबर 2026 में दोनों देशों के बीच एआई सुरक्षा पर आधिकारिक बातचीत की तैयारी चल रही है, जिसमें एआई-निर्देशित साइबर हमलों जैसे जोखिम शामिल हैं। यह परिस्थिति परमाणु हथियारों की दौड़ की याद दिलाती है। लेकिन एक बड़ा अंतर है।

परमाणु बम बनाने के लिए यूरेनियम, प्लूटोनियम, रिएक्टर, मिसाइल और विशाल औद्योगिक ढांचे की जरूरत होती है। सॉफ्टवेयर की एक महत्वपूर्ण विशेषता यह है कि एक बार बन जाने के बाद उसकी प्रतिलिपि अपेक्षाकृत कम लागत पर बनाई जा सकती है। इसलिए एआई की शक्ति का प्रसार पारंपरिक औद्योगिक तकनीकों की तुलना में बहुत तेज हो सकता है।

तो क्या एआई हमें खत्म करेगा?

ईमानदार वैज्ञानिक उत्तर है: हमें नहीं पता।

यही इस पूरी कहानी का सबसे असुविधाजनक हिस्सा है।

हमारे पास ऐसा कोई वैज्ञानिक प्रमाण नहीं है कि मानवता निश्चित रूप से एआई के कारण समाप्त हो जाएगी। लेकिन हमारे पास यह मानने का भी पर्याप्त आधार नहीं है कि ऐसा खतरा असंभव है। आज के सिस्टम अभी पूर्णतः स्वायत्त, स्वयं-सुधार करने वाली सुपरइंटेलिजेंस नहीं हैं। अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट भी स्पष्ट करती है कि वर्तमान loss-of-control scenarios के लिए आवश्यक क्षमताओं का संयोजन अभी विश्वसनीय रूप से मौजूद नहीं है। लेकिन दूसरी तरफ, क्षमताएं तेजी से बढ़ रही हैं और भविष्यवाणी करना कठिन है कि कौन-सी क्षमताएं किस स्तर पर अचानक महत्वपूर्ण हो जाएंगी। इसलिए सवाल यह नहीं है कि क्या एआई हमें मारेगा? सवाल ये है कि क्या हम ऐसी मशीन बना रहे हैं जिसकी शक्ति बढ़ने की गति हमारी नियंत्रण तकनीक, कानून और संस्थाओं की क्षमता से अधिक हो सकती है?