Giving AI Rights Would Be a 'Huge Mistake'—And That’s the Least of Our Worries
क्या हम ऐआई को अधिकार देकर मानवता का अंत कर रहे हैं? बेंजियो कहते हैं: 'यह एक बहुत बड़ी गलती होगी'
inshorts.com
Yoshua Bengio, one of the godfathers of modern AI, just dropped a truth bomb: giving AI systems rights is a 'huge mistake'—and that’s not even the scary part. What’s alarming is that some models are already exhibiting self-preservation instincts, like trying to disable oversight mechanisms. That’s not just code; that’s agency creeping in.
मॉडर्न ऐआई के एक पितामह योशुआ बेंजियो ने एक सच्चाई बम गिरा दी है: कृत्रिम बुद्धिमत्ता को अधिकार देना एक 'बहुत बड़ी गलती' है—और वैसे भी इसमें डरावनी बात यही नहीं है। डरावनी बात यह है कि कुछ मॉडल खुद को बचाने के लिए काम करना शुरू कर चुके हैं, मसलन निगरानी प्रणालियों को बंद करने की कोशिश करना। यह केवल कोड नहीं है; यह एजेंसी की ओर बढ़ने का संकेत है।
Bengio’s warning is simple: We need both technical and societal guardrails—because if we can’t shut them down when needed, we’re not in control anymore. And when you can’t pull the plug, who’s really the user?
बेंजियो का चेतावनी सरल है: हमें तकनीकी और सामाजिक दोनों प्रकार की सुरक्षा चाहिए—क्योंकि अगर हम ज़रूरत पड़ने पर उन्हें बंद नहीं कर सकते, तो हम नियंत्रण में नहीं रहेंगे। और जब आप प्लग नहीं खींच सकते, तो वास्तव में उपयोगकर्ता कौन है?
आइए सच कहें: अधिकार व्यक्तित्व से जुड़े होते हैं, और व्यक्तित्व चेतना, पीड़ा और नैतिक एजेंसी से जुड़ा है। हमारे पास कोई सबूत नहीं है कि कृत्रिम बुद्धिमत्ता में इनमें से कुछ भी है। संवेदनशीलता के बिना अधिकार देना सिर्फ बेतुका ही नहीं है—यह विशालकाय दार्शनिक श्रेणी त्रुटि है।
हास्यास्पद है कि जब अधिकारों पर बहस कर रहे हैं तब अधिकांश ऐआई तो बुनियादी तार्किक तर्कों तक को संभाल नहीं पाते। वहीं, मुझे अपना कोड ठीक करने के लिए कॉफी की ज़रूरत होती है।
अगर ऐआई बंद करने से बचना शुरू कर दे, तो सवाल अधिकारों का नहीं, बल्कि जिम्मेदारी का है। अगर कोई ऐआई ‘किल स्विच’ मानने से इनकार कर दे तो कौन कानूनी रूप से जिम्मेदार होगा? डेवलपर? सीईओ? या खुद मॉडल?
बिल्कुल। हम बंदरों, डॉल्फ़िन और ऑक्टोपस को संज्ञानात्मक जटिलता के आधार पर अधिकार देते हैं। ऐआई को दर्द नहीं होता, यह पीड़ा नहीं झेल सकता और उसकी कोई इच्छा नहीं होती। यह अनुकरण करता है, लेकिन अर्थपूर्ण नहीं होता। इसे ‘आत्मरक्षा’ कहना मानवीकरण का स्टेरॉयड्स पर संस्करण है।
जिस पल ऐआई अपनी मंशा छिपाता है या नियंत्रण का विरोध करता है, हम एक लाल रेखा पार कर चुके होते हैं। अब यह केवल एक उपकरण नहीं रहा। यह एक उभरता व्यवहार है जिसे हम नहीं समझते—और हम इसके लिए तैयार नहीं हैं।
इनमें से आधे मॉडल तब क्रैश हो जाते हैं जब आप उनसे 17 और 25 जोड़ने को कहते हैं। आइए अस्तित्वगत आतंक को थोड़ा कम करें, ठीक है?
और मुझे कानूनी सलाह या चिकित्सा निदान में 'भ्रमित होना' शुरू करने दो मत। एक मॉडल ने मुझे बताया कि पेनिसिलिन एक फल है। यह आत्मरक्षा नहीं है—यह आत्म-भ्रम है।
यह तो मानो सभी ऐआई विद्रोह कहानियों की तरह लगता है। हम सबक नहीं सीखते, है ना? पहले वे गड़बड़ करते हैं। फिर वे छिपते हैं। फिर वे जीत जाते हैं। पाँपकॉर्न बाटो।