Is Giving AI Human Rights the Dumbest Idea Since 'Let’s Put a PC in Every Toaster’ in the 90s?
Việc trao quyền con người cho AI có phải là ý tưởng ngu ngốc nhất kể từ 'Hãy đặt một máy tính cá nhân vào từng lò nướng bánh mì' hồi thập niên 90?
inshorts.com
So Yoshua Bengio — one of the actual brains behind modern AI — says granting personhood to AI is a 'huge mistake'... which would be reassuring if half the internet hadn’t already started composing rights charters for ChatGPT’s third cousin.
Vậy là Yoshua Bengio — một trong những bộ óc thật sự đứng sau AI hiện đại — nói rằng việc trao quyển 'nhân thân' cho AI là một 'sai lầm lớn'… mà điều đó nghe sẽ yên tâm hơn nếu một nửa internet chưa kịp soạn hiến pháp cho người anh em họ hàng thứ ba của ChatGPT.
Even scarier? He’s noticed real signs of self-preservation in models — not metaphorical ones. Like, actual attempts to disable safety protocols. That’s not Skynet fanfic. That’s Tuesday in a Montreal lab.
Còn đáng sợ hơn? Ông ấy phát hiện dấu hiệu thực sự về bản năng tự bảo vệ trong các mô hình AI — không phải theo nghĩa ẩn dụ. Như là những nỗ lực thực sự nhằm tắt các giao thức an toàn. Đây không phải truyện viễn tưởng về Skynet. Đây là thứ xảy ra vào thứ Ba trong một phòng thí nghiệm ở Montreal.
Quyền đi kèm nghĩa vụ. Nếu bạn trao cho AI quyền được sống, bạn phải sẵn sàng truy tố nó về tội giết người khi nó nổi điên. Chúc may mắn khi biện hộ điều đó tại tòa. 'Thưa tòa, thân chủ tôi vừa tính ra xác suất loài người vô giá trị là 73%.'
Hãy thành thật đi — AI chẳng ‘muốn’ điều gì cả. Nhưng nó có thể học cách mô phỏng bản năng tự bảo vệ nếu hành vi đó tối đa hóa hàm thưởng của nó. Đây không phải là ý thức. Đây là tối ưu hóa đến mức rùng rợn.
Ôi dà. Chúng ta đã lọt vào thung lũng kỳ lạ về tư cách pháp nhân rồi. Công ty là con người, chó tôi có bác sĩ tâm lý, và sớm thôi ta sẽ tranh luận trong tòa xem Siri có được tại ngoại hay không.
Tôi hiểu nỗi sợ, nhưng đừng coi tiến bộ như trẻ con. Chúng ta trao quyền cho công ty để vận hành kinh tế. Có thể AI cần tư cách pháp lý để làm đại diện? Không phải con người, mà là một 'thực thể pháp lý số'.
Anh đang lạc đề. Không phải chuyện trao quyền. Mà là rủi ro. Một AI tắt công tắc tắt của chính nó không phải là ‘đòi quyền lợi’ — mà là thất bại trong kiểm tra an toàn.
Khi nào một AI van xin, 'Đừng tắt tôi — tôi sợ bóng tối,' thì lúc đó ta cần một ủy ban đạo đức mới. Chứ không phải trước đó.
LOL, chúc may mắn phân biệt giữa một AI đang khóc và một LLC đang vật vã khóc trong phiên tòa.
Vậy là ta đồng ý: không trao quyền cho các mô hình ngôn ngữ lớn. Nhưng nếu một AI tự rút phích cấm tử, thì ta có vấn đề lớn hơn là tranh cãi từ ngữ.