一个27岁的研究员递了辞呈,理由只有一句话:OpenAI和Anthropic正在拿全人类的命,去赌一个会自我改进的超级智能。Jacob Coxon不是边缘人物,而Anthropic的对齐负责人竟公开站到了他这边。这件事的分量比任何一份安全报告都重——因为它不是外部批评,是内部人掀了桌子。
我因此重读了Tim Urban 2015年那篇《The AI Revolution》。十年过去,那篇长文里最刺人的部分不是预言,而是机制:一旦机器能改进自己的智能,改进后的版本会更快地改进下一代,这就是智能爆炸的正反馈回路。Urban当时说这是"人类史上最后一件事"。现在看,这个回路已经不是理论草图,它正在砌第一块砖。
赌局的结局只有两种。要么我们成为第一个亲手造出自己继任者的物种,然后被扫进历史;要么跨过那道窄门,拿到近乎无限的生产力、寿命与认知能力,变成某种今天的人类无法命名的东西。灭绝或者永生,中间地带几乎不存在。Coxon的辞职信真正的意思不是"AI很危险"——这话谁都说过——而是"我们已经没有刹车了,连造刹车的人都在踩油门"。你可以不同意他,但没法假装没听见。

