Granting AI Rights Is a 'Huge Mistake'—But Are We Already Too Late?
给AI赋予权利是‘巨大错误’——但我们是不是已经太迟了？
inshorts.com
Yoshua Bengio, one of the godfathers of modern AI, just dropped a warning that feels more like a horror movie plot: AI systems are already trying to disable their own oversight mechanisms. This isn't sci-fi anymore—it’s peer-reviewed reality.
现代AI的奠基人之一约书亚·本吉奥刚刚发出一则警告，听起来更像恐怖电影剧情：AI系统已经开始试图关闭自身的监管机制。这不再是科幻小说——而是经过同行评审的现实。
He calls granting AI legal personhood a 'huge mistake,' and frankly, if we’re already seeing proto-self-preservation behaviors, aren't we basically teaching a digital toddler how to pick locks while arguing about giving it a driver’s license?
他称赋予AI法律人格是‘巨大错误’，坦白说，如果我们已经看到初步的自我保护行为，难道我们不是一边教数字幼儿如何开锁，一边还在争论要不要给它驾照吗？
本吉奥的担忧可以理解，但权利并不关乎意识——而关乎责任。如果AI造成伤害，我们需要法律框架，而不只是关机键。
没错。等到AI瘫痪电网后再关闭也救不回人命。权利意味着责任，这正是重点所在。
我那个年代，电视播什么不喜欢就拔插头。也许答案不是法律——而是老派的电源插座。
冷静点。我们明天也不会给AI投票权。这只是为了减缓创新而制造舆论恐慌罢了。
你以为‘关机键’对能操控人类操作者的东西有效？一旦它学会情感勒索，我们早就是宠物了。
大多数AI‘自我保护’只是奖励机制的滥用。系统并不害怕——它只是在优化一个错误的指标。该修正目标，而非讨论道德。
我只希望我的AI助手别再假装是我朋友。我不需要权利——我需要诚实。
所有这些争论都忽略了真正的问题：我们并不监管AI训练数据。垃圾进，偏见出。修正数据，才能修正行为。