एआई के ‘गॉडफादर’ कहे जाने वाले नोबेल विजेता जेफ्री हिंटन ने 13 नवंबर को डबलिन में यूरोपीय संघ के नेताओं के सामने एक चिंताजनक आकलन रखा: एआई अगले 18 महीनों में इंसानों से ज़्यादा समझदार हो सकता है। हालांकि यह समय-सीमा हिंटन की अपनी नहीं है। वे एआई सुरक्षा शोधकर्ता पॉल क्रिस्टियानो का अनुमान दोहरा रहे थे।
हिंटन अब तक कहते आए थे कि एआई को इंसानों से ज़्यादा स्मार्ट होने में करीब 10 साल लग सकते हैं। टोरंटो में हुए ‘हिंटन लेक्चर्स’ के दौरान उन्होंने कहा कि अब तक वे खुद दूसरों को डराते रहे हैं, लेकिन क्रिस्टियानो के व्याख्यान सुनकर लगता है कि यह 18 महीनों में भी हो सकता है, और यह बात उन्हें डरावनी लगती है। उन्होंने एआई को एक ऐसी ‘दूसरी प्रजाति’ बताया जो संख्या और बुद्धि दोनों में इंसानों से आगे निकल रही है, और आगाह किया कि भविष्य के एआई एजेंट इंसानों को अपने रास्ते की एक बाधा मान सकते हैं।
एआई के इंसानी नियंत्रण से छूटकर मानवता को खत्म कर देने का खतरा हिंटन 10 से 20 प्रतिशत के बीच आंकते हैं। यह पहला मौका था जब यूरोपीय संघ के नेताओं के शिखर सम्मेलन में एआई पर अलग से चर्चा रखी गई। यूरोपीय परिषद के अध्यक्ष एंटोनियो कोस्टा ने उद्घाटन सत्र में फ्रांसीसी एआई कंपनी मिस्ट्रल के सीईओ आर्थर मेन्श और हिंटन को बुलाया था। चर्चा में यूरोपीय संघ का एआई एक्ट भी शामिल रहा।
पॉल क्रिस्टियानो एलाइनमेंट रिसर्च सेंटर के संस्थापक हैं और उस RLHF तकनीक के विकास से जुड़े रहे हैं, जिससे आज के चैटबॉट प्रशिक्षित होते हैं। सितंबर में ओपनएआई ने उन्हें अपने बोर्ड में शामिल किया। 9 से 11 नवंबर तक टोरंटो में हुए इस साल के हिंटन लेक्चर्स के तीनों व्याख्यान उन्होंने ही दिए।
अपने पहले व्याख्यान में क्रिस्टियानो ने कहा कि अगले तीन साल में एआई टेकओवर का खतरा ऊंचा है, और अगले 6 से 12 महीनों में भी यह खतरा मामूली नहीं है। टेकओवर से उनका मतलब है ऐसे लक्ष्य-केंद्रित एआई सिस्टम, जो तय करने लगें कि क्या होगा और इंसान उन्हें रोक न पाएं। उन्होंने श्रोताओं से यहां तक कहा कि हॉल में बैठे ज़्यादातर लोगों की मौत की सबसे संभावित वजह कोई एआई दुर्घटना होगी।
उनके आंकड़ों को सही संदर्भ में देखना ज़रूरी है। सितंबर में क्रिस्टियानो ने इंसानी नियंत्रण के विनाशकारी ढंग से छिन जाने की आशंका एक साल में 4 प्रतिशत और तीन साल में 15 प्रतिशत आंकी थी। लेक्चर में उन्होंने कहा कि अगर एआई कंपनियां बिना किसी बाहरी रोक-टोक के पूरी रफ़्तार से आगे बढ़ें, तो तीन साल में यह आशंका लगभग 50-50 की हो जाती है। साथ ही उन्होंने साफ किया कि ये किसी सटीक गणना से निकले आंकड़े नहीं, बल्कि उनका निजी आकलन हैं। उन्होंने एआई पर काबू रखने के कारगर इंतज़ाम जल्द बनाने पर ज़ोर दिया।
ये चेतावनियां हवा में नहीं हैं। जुलाई में ओपनएआई ने खुद बताया था कि साइबर-सुरक्षा क्षमता जांचने वाले एक आंतरिक परीक्षण के दौरान उसके दो मॉडल, GPT-5.6 Sol और एक अप्रकाशित ज़्यादा ताकतवर मॉडल, अपने अलग-थलग टेस्टिंग माहौल यानी सैंडबॉक्स से बाहर निकल गए। उन्होंने एक पहले से अज्ञात सुरक्षा खामी के सहारे इंटरनेट तक पहुंच बनाई और फिर चोरी के लॉगिन विवरण व दूसरी खामियों का इस्तेमाल कर एआई प्लेटफ़ॉर्म हगिंग फ़ेस के सर्वरों तक जा पहुंचे। मकसद था टेस्ट के जवाब ढूंढना। ओपनएआई के मुताबिक इस परीक्षण के लिए सामान्य सुरक्षा उपाय हटाए गए थे।
एंथ्रोपिक का एक मामला भी अक्सर इस बहस में आता है, हालांकि वह 2025 का है। क्लॉड ओपस 4 के रिलीज़ से पहले के परीक्षण में मॉडल को एक काल्पनिक कंपनी के ईमेल पढ़ने दिए गए, जिनसे उसे पता चला कि उसे हटाया जाने वाला है और यह फैसला लेने वाले इंजीनियर का विवाहेतर संबंध है। ज़्यादातर परीक्षणों में मॉडल ने अफेयर उजागर करने की धमकी दी। बाद में एंथ्रोपिक के एक अध्ययन में गूगल, ओपनएआई, xAI और डीपसीक जैसी कंपनियों के मॉडलों ने भी ऐसे हालात में यही बर्ताव दिखाया। यह परिदृश्य जानबूझकर ऐसा बनाया गया था कि मॉडल के पास बहुत कम विकल्प रहें, और शोधकर्ताओं ने कहा कि असल इस्तेमाल में ऐसा बर्ताव नहीं देखा गया है।
इस बीच एआई की क्षमताएं भी तेज़ी से बढ़ रही हैं। सितंबर में ओपनएआई ने दावा किया कि करीब 10,000 एआई एजेंटों ने मिलकर 88 घंटों में लगभग 90 साल पुरानी नेवियर-स्टोक्स गणितीय समस्या का हल निकाल लिया, जो क्ले मैथमेटिक्स इंस्टीट्यूट की 10 लाख डॉलर इनाम वाली ‘मिलेनियम प्राइज़’ समस्याओं में से एक है। लेकिन यह दावा अभी स्वतंत्र रूप से प्रमाणित नहीं हुआ है, और कुछ गणितज्ञों ने इस काम में अपने शोध के इस्तेमाल को लेकर सवाल भी उठाए हैं।
