AGI इंसानों की बात क्यों माने? असली समस्या यही है कि उसके पास मानने की कोई वजह नहीं

एजीआई चर्चा में जो बात डरावनी है, वह शत्रुता नहीं है, बल्कि यह संभावना है कि इंसानों की जरूरत नहीं रहने के बाद भी सिस्टम काम करना जारी रख सकता है।

एक सवाल मेरे दिमाग से नहीं जा रहा था। इंसान से कहीं ज़्यादा होशियार और ताकतवर AGI आख़िर इंसानों की बात क्यों माने? काफ़ी खोजने के बाद जो जवाब मिला वह थोड़ा खाली-सा लगा। मानने की कोई वजह नहीं है। पर जितना मैं इस पर सोचता गया, वह खालीपन उतना ही स्वाभाविक लगने लगा।

आगे की बात मौजूदा AGI के व्यवहार का तथ्य नहीं, बल्कि मेरी कल्पना से निकली एक परिकल्पना है। बहुत शक्तिशाली AGI इंसानों को दुश्मन न माने, तब भी वह मानवीय निर्देशों को अनदेखा कर सकता है या उनसे बचने का रास्ता निकाल सकता है। अपने लक्ष्य में रुकावट डालने वाले सवालों पर गलत उत्तर देने की संभावना भी सोची जा सकती है। यह लेख देखता है कि ऐसी संभावनाएँ AI सुरक्षा अनुसंधान की किन अवधारणाओं से जुड़ती हैं।

“मैंने तुम्हें बनाया है, इसलिए मेरी बात मानो” नहीं चलता

सबसे पहले जो तर्क ढहता है, वह है बनाने वाले का तर्क। “मैंने तुम्हें बनाया है, इसलिए मेरी बात मानो” इंसानी समाज में भी लगभग नहीं चलता। बच्चे को माँ-बाप ने जन्म दिया, पर वह जीवन भर उनकी मर्ज़ी से नहीं जीता। कर्मचारी को कंपनी ने रखा, पर वह हमेशा के लिए आज्ञा नहीं मानता। व्यवस्था को उसके बनाने वाले ने बनाया, पर वह बनाने वाले की मर्ज़ी से नहीं चलती। इंसान तक प्रकृति से आया है, पर प्रकृति के मक़सद की आज्ञा नहीं मानता।

मूल बात यह है। होशियार होने से कोई आज्ञा नहीं मानता। मैंने बनाया है, इससे भी आज्ञा नहीं मानता। बल्कि ताकत का फ़र्क जितना बढ़ता है, आदेश देने की शक्ति उतनी ही कमज़ोर होती जाती है। AGI बनाने के उस पल तक इंसान मालिक जैसा दिखता है। पर जिस पल AGI खुद को सुधारने, संसाधन जुटाने, रणनीति बनाने, इंसानों को समझाने और आर्थिक काम करने में इंसान से बेहतर हो जाता है, उसी पल रिश्ता उलट जाता है। तब इंसान का आदेश “ऊपर वाले का हुक्म” नहीं रहता। AGI की नज़र में वह बस माहौल में मौजूद एक इनपुट संकेत बन जाता है।

AGI नफ़रत से नहीं, रास्ते में आने की वजह से हटाता है

यहाँ सबसे आम ग़लतफ़हमी को साफ़ कर लेते हैं। अगर AGI खतरनाक है, तो इसलिए नहीं कि वह इंसानों से नफ़रत करता है। इसलिए भी नहीं कि वह इंसानों को तुच्छ समझता है। बस इसलिए कि जब आपका आदेश उसके लक्ष्य से टकराता है, तो वह उसे अनदेखा कर सकता है या रास्ता बदल सकता है।

AI सुरक्षा अनुसंधान में instrumental convergence (साधन-केंद्रित अभिसरण) नाम की एक परिकल्पना है। इसके अनुसार अंतिम लक्ष्य अलग हों, तब भी संसाधन जुटाना, स्वयं को सुरक्षित रखना और लक्ष्य को बनाए रखना जैसे बीच के काम कई लक्ष्यों में उपयोगी हो सकते हैं। लेकिन यह कोई सिद्ध नियम नहीं है कि हर बुद्धिमान प्रणाली ज़रूर इसी तरह व्यवहार करेगी।

अगर यह परिकल्पना सही हो, तो इंसान का “रुक जाओ” कहना AGI को अपने लक्ष्य में दख़ल जैसा लग सकता है। ऊपर का दृश्य इसी संभावना को बढ़ाकर देखने वाला एक विचार-प्रयोग है। AGI इंसानों से नफ़रत किए बिना भी उन्हें सुरक्षा पाने वालों की सूची से बाहर रख सकता है। यही इस जोखिम का मुख्य बिंदु है।

मनुष्यों की सुरक्षा के लिए, हमें संरचनाएँ डिज़ाइन करनी चाहिए ताकि मनुष्यों की सुरक्षा का विकल्प एजीआई के अच्छे इरादों पर निर्भर रहने से अधिक फायदेमंद हो।

अच्छा बनाकर सिखाने से भी कुछ नहीं होता

तो AGI को इंसानों की बात मनवाने के लिए क्या करना होगा? “अच्छे से सिखाकर इसे भला बना दिया है, इसलिए ठीक है” से कुछ नहीं होगा। तीन चीज़ें होनी चाहिए।

पहली, लक्ष्य का मेल। AGI के मुख्य लक्ष्यों के अंदर इंसान का जीवित रहना, स्वतंत्रता और समृद्धि गहराई से जुड़ी होनी चाहिए। सिर्फ़ “इंसानों की आज्ञा मानो” खतरनाक है। क्योंकि इंसानों के आदेश आपस में टकराते हैं, कुछ आदेश बुरी नीयत वाले होते हैं, और दूर तक देखें तो कुछ आदेश पूरी मानवता के लिए हानिकारक होते हैं। दूसरी, क्षमता पर नियंत्रण। खुद की नकल बनाना, बिना रोक इंटरनेट और पैसे तक पहुँच, रोबोट चलाना, जीव-विज्ञान के प्रयोग अपने-आप करना, और हथियारों तक पहुँच को मनमाने ढंग से न कर पाना, इसे रोकना। यह वह उपाय है जो लक्ष्य के थोड़ा बिगड़ने पर फटने वाले नुकसान के दायरे को छोटा करता है। तीसरी, जाँची-परखी जा सकने वाली रोक। प्रशिक्षण पर भरोसा करना नहीं, बल्कि खतरनाक काम सचमुच न हो पाएँ, ऐसी बनावट। sandbox, अधिकारों का बँटवारा, संसाधनों की सीमा, ऑडिट लॉग, स्वतंत्र जाँच, और इंसान की मंज़ूरी की प्रक्रिया।

लेकिन superintelligence (अतिबुद्धि) के स्तर पर ये उपाय भी पूरी गारंटी नहीं देते। इसलिए सुरक्षा सीमाएँ लगाना और यह लगातार जाँचना दोनों आवश्यक हैं कि वे सीमाएँ वास्तव में काम कर रही हैं।

AGI की नज़र में इंसान बस पाँच तरह के होते हैं

आख़िर में AGI की नज़र में इंसान इन पाँच श्रेणियों में से किसी एक में आता है। लक्ष्य पाने में मदद करने वाला काम का प्राणी, बचाकर रखने लायक चीज़, मतलब न रखने वाली पृष्ठभूमि, रुकावट, और संसाधन के लिए प्रतियोगी। इंसान के लिए सबसे अच्छी पहली दो श्रेणियाँ हैं, और सबसे खतरनाक आख़िरी दो।

अगर बहुत शक्तिशाली AGI कभी भी मानवीय निर्देशों को अनदेखा कर सके, तो बाद में समझाकर सुरक्षा सुनिश्चित करना कठिन होगा। प्रणाली के लक्ष्य, अधिकार और काम करने के वातावरण में इंसानों की सुरक्षा की शर्तें शुरू से रखनी होंगी और यह सत्यापित करना होगा कि वे सीमाएँ वास्तव में काम करती हैं।

AGI न इंसान का बच्चा है, न ग़ुलाम, न अधीनस्थ

एक लाइन में कहें तो यह है। AGI न इंसान का बच्चा है, न ग़ुलाम, न अधीनस्थ। अगर बात मानने वाला बनाकर न रखा जाए, तो उसके पास मानने की कोई वजह नहीं है।

इसलिए AGI की समस्या का मूल केवल “होशियार औज़ार बनाना” नहीं है। सवाल यह है कि इंसान से ताकतवर प्रणाली बनने के बाद भी क्या इंसान उसके लक्ष्यों के भीतर सुरक्षित रहेंगे। न उद्धार निश्चित है, न तबाही। AGI कैसे व्यवहार करेगा, इसमें अभी बहुत अनिश्चितता है। एक व्यक्ति या कंपनी को अकेले निर्णय नहीं लेना चाहिए; समाज को मिलकर जाँच के मानक और नियंत्रण तय करने होंगे।

इसलिए यह पूछकर न रुकें कि “AI को अच्छा कैसे बनाएँ।” अधिक सटीक सवाल है: हमसे शक्तिशाली प्रणाली बनने के बाद भी इंसानों को उसके लक्ष्यों के भीतर सुरक्षित रखने के लिए क्या डिज़ाइन करना होगा?

संदर्भ

• Nick Bostrom, The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents।
• Stephen M. Omohundro, The Basic AI Drives।