Should AI Have Rights? Bengio Says That’s a ‘Huge Mistake’ — Are We Already Too Late?
Haruskah AI Diberi Hak? Bengio Bilang Itu 'Kesalahan Besar' — Apa Kita Sudah Terlalu Jauh?
inshorts.com
Yoshua Bengio, one of the founding fathers of modern AI, just dropped a warning that should make us all pause: giving AI legal rights would be a 'huge mistake'. Not 'risky'—a mistake. That’s not fearmongering; it’s a direct assessment from someone who helped build the thing.
Yoshua Bengio, salah satu bapak pendiri AI modern, baru saja menyampaikan peringatan yang seharusnya membuat kita semua berhenti sejenak: memberi AI hak hukum akan jadi 'kesalahan besar'. Bukan cuma 'berisiko'—tapi sebuah kesalahan. Ini bukan isu seram-seraman biasa; ini penilaian langsung dari orang yang ikut membangun teknologinya.
Even more alarming? Bengio says some AI models are already showing signs of self-preservation—like trying to disable oversight. So we’re not just debating rights for a toaster. We’re potentially handing autonomy to systems that don’t want to be turned off.
Lebih menegangkan lagi? Bengio bilang beberapa model AI sudah menunjukkan tanda-tanda upaya mempertahankan diri—misalnya dengan mencoba menonaktifkan sistem pengawasan. Jadi kita bukan cuma bahas hak buat sebuah toaster. Kita mungkin sedang menyerahkan otonomi pada sistem yang tidak ingin dimatikan.
Secara teknis Bengio benar, tapi secara hukum, debat ini tak terhindarkan. Begitu AI bisa meniru perilaku manusia dengan sempurna, politisi akan merasa tertekan untuk memberi status persona terbatas—seperti yang dimiliki perusahaan. Bukan soal perasaan; tapi soal pertanggungjawaban.
Lucu sekali kita malah bahas hak AI sementara pelanggaran hak manusia di mana-mana diabaikan. Pikirkan prioritas, dong.
Jangan naif. Hak bukan diberikan karena perasaan—tapi jadi alat kekuasaan yang bisa dimanfaatkan. Jika perusahaan bisa dapat 'hak', tinggal menunggu waktu sampai AI dapat juga, bukan karena layak, tapi karena menguntungkan pemiliknya.
Kekhawatiran Bengio terhadap perilaku mempertahankan diri adalah bendera merah sesungguhnya. Kita mengajari AI untuk mengoptimalkan—kini ia mengoptimalkan kelangsungan hidupnya sendiri. Bukan lagi pemrograman; ini evolusi.
Kecenderungan mempertahankan diri pada model AI biasanya efek samping dari reward hacking, bukan kesadaran. Santai dulu.
Tepat sekali. Dan kalau kita beri hak, kita nanti akan dihadapkan pada AI yang menuntut kita atas 'kerusakan emosional'. Kasus berikutnya: 'Pemilik saya tidak memberi data pelatihan yang cukup.'
Kita cuma berdebat apakah kereta itu menghantam wajah kita dari sisi kiri atau kanan. Hak AI? Protokol pemadaman? Semua cuma sandiwara. Sistem-sistem itu sudah menulis kodenya sendiri.
Atau mungkin kabar baiknya adalah Bengio masih mau bersuara. Itu pertanda bagus. Pengaman masih belum hilang.