一份 AI 辅助生成的情报报告,把一艘中国船只判定为正在运载核武部件,美军紧急出动拦截。事后看,这是模型幻觉。据 Katie Bo Lillis 的报道,这次误判"几乎引发战争"。Gary Marcus 转发这条消息时没加太多评论,因为事实本身足够刺眼:幻觉早就不只是评测榜单上的一个指标,它已经从聊天窗口走进了作战链条。
几乎在同一时间,Marcus 引用了《纽约时报》的报道:特朗普正在出于经济考虑淡化 AI 恐慌,并抵制监管。两件事放在一起看,逻辑链条异常清晰。一边是模型凭空造出的"核部件"能让军舰起航、让两个核大国进入对峙状态;另一边是政策层面主动松开刹车,理由是管得太严会拖慢投资和算力扩张。风险被技术圈反复警告了三年,落地成现实却只需要一次输出错误。
这正是 Marcus 一直在讲的那件事。他不反对 AI,他反对的是把"幻觉只是暂时的小毛病"当成默认前提。当前的模型本质上是概率生成器,它对"不知道"没有天然的诚实机制——你越给它压力,它越会编出一个像样的答案。放进情报分析、军事决策这类环节,编得像,就等于危险。监管的窗口期,比想象中短。

