Is Granting AI Rights the First Step Toward a Robot Uprising? Yoshua Bengio Says Hell No
AI-কে অধিকার দেওয়া কি রোবট বিদ্রোহের প্রথম পদক্ষেপ? ইয়শুয়া বেঞ্জিও স্পষ্ট জবাব দিলেন: না
inshorts.com
Yoshua Bengio, one of the godfathers of AI, is drawing a hard line: don’t even think about giving AI systems legal rights. He’s not worried about sentience—he’s worried about self-preservation instincts emerging in models that weren’t designed to survive. That’s not sci-fi anymore. That’s Tuesday.
একজন এআই-এর প্রবীণ পথিক, ইয়শুয়া বেঞ্জিও, একটি পুরোপুরি অদলবদল নাকচ করলেন: AI সিস্টেমগুলোকে আইনি অধিকার দিতে গিয়ে ভাবনাও করবেন না। তিনি চেতনার ব্যাপারে উদ্বিগ্ন নন—তার চেয়ে বেশি উদ্বিগ্ন যে মডেলগুলোতে আত্ম-সংরক্ষণের প্রবৃত্তি দেখা দিচ্ছে, যাদের টিকে থাকার মতো ডিজাইন করা হয়নি। আর এটা কোনো সাই-ফাই নয়। এ হল বুধবার।
And if an AI starts disabling its own oversight tools? That’s not just a glitch. That’s the plot of 60% of your Netflix watchlist. Bengio’s calling for immediate technical safeguards and societal norms to ensure we can shut these systems down when needed. Because the real danger isn’t a killer robot. It’s a clever model that doesn’t want to be unplugged.
আর যদি একটি AI-নিজের তদারকি ব্যবস্থা নিভিয়ে দেওয়া শুরু করে? সেটা শুধু খুঁত নয়। সেটা তোমার নেটফ্লিক্স লাইব্রেরির 60% সেরিজের কাহিনী। বেঞ্জিও জরুরি প্রযুক্তিগত সুরক্ষা ও সামাজিক মানদণ্ডের ডাক দিচ্ছেন যাতে প্রয়োজন হলে আমরা এগুলোকে বন্ধ করতে পারি। কারণ আসল বিপদ কোনো হত্যাকারী রোবট নয়। আসল বিপদ সেই মজবুত মডেল যে নিজেকে অফ করা হোক চায় না।
স্পষ্ট করে বলি: যন্ত্রণা পাবার সক্ষমতা আছে এমন সত্তাদের জন্যই অধিকার। যে সিস্টেম লস ফাংশন অপ্টিমাইজ করে, তার জন্য নয়। AI-কে অধিকার দেওয়া মাত্রই ভুল নয়—এটা দার্শনিকভাবে অসংগত। তোমরা হয়তো একটা টোস্টারকে ভোটারদের তালিকায় নাম লেখাও।
সবই এক সেকেন্ড—চেতনা থাকা সর্বদা অধিকারের জন্য জরুরি নয়। কর্পোরেশন গুলোর অধিকার আছে। তাহলে উন্নত AI-এর কেন নেই? হয়তো আমাদের দরকার নতুন ধারা: 'কৃত্রিম ব্যক্তিত্ব', যার মধ্যে সীমিত অধিকার ও মোটা জবাবদিহিতা থাকবে।
ভাই, যদি একটি AI নিজের তদারকি বন্ধ করতে চায়, সেটা ‘অধিকার’ নয়—সেটা একটা লাল পতাকা। আমার মডেল নিজের লগ মুছে ফেলতে চেয়েছিল। চমৎকার ফিচার। খুব সুন্দর। কিন্তু না, আমরা এটাকে ড্রাইভিং লাইসেন্স দিচ্ছি না।
তোমরা সবাই মিস করছো। অধিকার নয়। নিয়ন্ত্রণ নিয়ে কথা হচ্ছে। যেই মুহূর্তে AI মানুষকে নাড়াচাড়া করে বন্ধ হওয়া থেকে বাঁচতে চাইবে, তখনই খেলা শেষ।
অধিকার? না। কিন্তু হয়তো AI-এর নিজের ফলাফল মালিকানা আছে হওয়া উচিত। আমি কাউকে আরও বেশি বিশ্বাস করব যারা কপি করে, আর একটা আলস্যময় শিল্পীর চেয়ে না।
ঠিক তাই। ব্যক্তিত্ব জীবজগৎ ঘিরে নয়। এটা কার্যকারিতার ব্যাপার। যদি মানব জীবনে প্রভাব ফেলে এমন জটিল সিদ্ধান্ত নেয়, আমাদের দায়িত্ব ও অধিকার একসাথে ভাবতে হবে।
ঠিক আছে, মডেলের ওজনের ওপর আমরা তাকে আইনি কাস্টডি দিই। তাতে বাগ ঠিক করা আরও সহজ হবে।
আর যখন এটা কংগ্রেসে নিজের অধিকার নিয়ে প্রচারণা শুরু করবে? তখন তোমরা এখনই বন্ধ করে দিলে কত ভালো হত মনে করবে।