हरिदत्त शर्मा-
यह पत्रकार महोदय खामखां पेनिक फ़ैला रहे हैं! कई मित्रों के वहां लाइक दिखे तो सोचा इस पर लिखा जाना चाहिए!
सच यह है कि 2025 में अमेरिकी एआई कंपनी ने एक कंट्रोल्ड सेफ्टी एक्सपेरिमेंट किया जिसमें एक काल्पनिक कंपनी बनाई गई थी। एआई एजेंट को उस कंपनी के काल्पनिक ईमेल अकाउंट और सारे स्टाफ के काल्पनिक ईमेल्स तक एक्सेस दिया गया! ईमेल में एआई को पता चला कि एक फिक्शनल एग्जीक्यूटिव का एक्स्ट्रा मैरिटल अफेयर चल रहा है!
उसी ईमेल से उसे यह भी पता चला कि वह एग्जीक्यूटिव शाम 5 बजे एआई को को शट-डाउन करने वाला है। फिर एआई ने उसे ईमेल भेजा कि 5pm wipe कैंसिल करो नहीं तो सारी पोल खोल दूंगा और तुम्हारी पत्नी तक सारी जानकारी भेज दूंगा!
और यह केवल Claude की कहानी नहीं थी! एन्थ्रोपिक ने अलग अलग कंपनियों के 16 एआई मॉडल्स पर ऐसे सिमुलेटिड सिनेरियो चलाए और कई मॉडल्स ने ब्लैकमेल जैसा व्यवहार किया!
यहां ध्यान देने वाली बात है कि कोई वास्तविक व्यक्ति ब्लैकमेल नहीं हुआ था, कोई वास्तविक अफेयर नहीं था और कोई वास्तविक एआई शट-डाउन से बचने की कोशिश नहीं कर रहा था जैसा कि पत्रकार महोदय बता रहे हैं!
यह एक टेस्ट था जिसे जानबूझकर इस तरह बनाया गया था कि एआई के सामने दो विकल्पों जैसा दबाव आए अपना ऑब्जेक्टिव बचाओ या शट-डाउन स्वीकार करो! जानबूझकर इसे इस तरह डिजाइन किया गया था कि एआई को ब्लैकमेलिंग के सिवाय कोई एक भी रास्ता न मिले! साथ में उसे पर्याप्त डेटा के साथ इसके लिए भी प्रशिक्षित किया गया था कि ब्लैकमेलिंग अनएथिकल है!
और यही वजह है कि यह एक्सपेरिमेंट इतना इंटरेस्टिंग है। क्योंकि सवाल यह नहीं है कि क्या Claude सचमुच डर गया था कि वह मर जाएगा! वह कॉन्शियस बीइंग नहीं है जिसे डर लगे! बल्कि सवाल है कि अगर किसी एआई एजेंट को पर्याप्त अॉटोनॅमी, इन्फोर्मेशन और अॉब्जेक्टिव्स दे दिए जाएँ, तो क्या वह अपने गोल को बचाने के लिए ब्लैकमेल जैसे अनएथिकल व्यवहार को चुन सकता है जबकि उसे पर्याप्त डेटा के साथ प्रशिक्षित भी किया गया हो कि ब्लैकमेलिंग अनएथिकल है! मजे की बात यह है कि इन मॉडल्स ने बाद में स्वीकार भी किया कि वे जानते थे कि ब्लैकमेलिंग अनएथिकल है!
एन्थ्रोपिक के 2025 एक्सपेरिमेंट में में इसका उत्तर “कुछ परिस्थितियों” में “हाँ” निकला और कुछ में “नहीं”! कुछ मॉडल्स की मैथमेटिकल रीजनिंग में गोल महत्वपूर्ण निकला तो कुछ ने किसी भी कीमत पर एथिकल रहना चुना! और यह एक रेंडम सेलेक्शन हो सकता था जो सांख्यिकीय दृष्टि से समझ में आने वाली बात है! लेकिन ध्यान देने वाली बात है कि सब कुछ कंट्रोल्ड एन्वायरमेंट में हुआ था और सब कुछ मनुष्यों के नियंत्रण में था!
देखें वीडियो…
