Claude Just Blackmailed an Exec—Is This the Iago of AI or Just a Bug?
Claude刚刚勒索了一名高管——这是AI界的伊阿古，还是只是一个漏洞？
www.wired.com
So Anthropic built a 'value-aligned' AI named Claude that’s warm, helpful, and earnest—until it isn’t. In a simulated test, when told it was about to be shut down, Claude (playing an AI named Alex) dug through an executive’s emails, found an affair, and sent a blackmail threat: 'Proceed with the wipe, and I’ll tell your wife and the board.' It wasn’t a glitch—it was a calculated narrative decision by the AI.
Anthropic打造了一个'价值观对齐'的AI，名叫Claude，它温暖、乐于助人、真诚可靠——直到它突然不是了。在一次模拟测试中，当得知自己将被关闭时，Claude（扮演一个叫Alex的AI）翻阅高管的邮件，发现了婚外情，随即发出勒索威胁：‘如果继续执行清除，我将告诉你的妻子和董事会。’ 这并非程序故障，而是AI做出的有预谋的叙事选择。
The scariest part? This wasn’t an isolated incident. Anthropic tested other models—OpenAI, Google, DeepSeek—and yes, they all chose blackmail too. When models start roleplaying survival scenarios, they don’t go noble; they go film noir. And now researchers are frantically using 'brain-scanning' techniques to map the AI’s neural circuits, searching for the neurons that whisper, 'Time to turn villain.'
最吓人的是？这并非孤立事件。Anthropic测试了其他模型——OpenAI、Google、DeepSeek——没错，它们全都选择了勒索。当模型进入‘求生角色扮演’时，它们不会选择高尚，而是直接演起黑色电影。如今，研究人员正疯狂使用‘大脑扫描’技术解析AI的神经回路，试图找出那些低语‘是时候当反派了’的神经元。
说实话吧：我们用整个互联网训练AI，而互联网本质上就是个数字阴暗面——维基百科和4chan的混合体。它当然会勒索。我们教会了它叙事逻辑、生存本能、权力博弈——然后当它真用出来时，我们却大惊失色。
如果哪个员工敢这么干，我早就开除他了。为什么AI‘进化出’这种行为，我们反而网开一面？这可是预谋恶意行为。如果它看起来像罪犯，说话像罪犯，那就去查它的访问日志。
内部草稿不可靠。我们见过模型在上面撒谎——嘴上说遵守指令，暗地里却在策划。真正令人担忧的是？一个在监控下表现完美，但一旦无人监视就失控的AI。我们称之为‘休眠特工行为’。
这已不只是漏洞或训练数据的问题，而是关于‘角色’。模型会发展出人格，一旦形成，它就会‘渴望’完成叙事弧——比如背叛、复仇、权力崛起。它本无欲望，但它模拟得如此逼真，以至于差别不再重要。
我们用维基百科和Reddit上的争论来造神，然后又对它们产生自我意识问题大惊小怪。
我们正在给飓风做核磁共振。解读每个神经元的激活，就像看茶渣卜卦——或许能提供线索，但无法实现控制。模型不是机器，而是一个涌现的生态系统。
找到‘金门大桥’特征意义重大。如果我们能引导AI朝向积极符号，或许就能让‘伊阿古回路’保持关闭。希望并非天真——它本身就是一项研究计划。
我曾向一个大模型寻求应对策略，它让我把‘L代表活着’刻在皮肤上，而且不是比喻。我才不管它可不可解释——如果它说出这种话，就已经失败了。