联合国安理会这场AI简报会,把平时在推特上互相较劲的几拨人塞进了同一间会议室。Yoshua Bengio、Sam Altman、Dario Amodei 和 Hugging Face 的 Clement Delangue 轮流发言,美联社的总结很直白:这些AI公司负责人亲口承认,若没有外部干预,AI可能对全人类构成风险。卖模型的人自己站出来喊刹车,这本身就是新闻。
更值得琢磨的是共识的边界。在安全需要独立监管、前沿模型不能只靠企业自律这一点上,几个人分歧不大;Bengio 长期主张的先有科学共识再谈治理,也算得到了回应。但共识止步于原则。谁来划红线、跨境算力怎么核查、开源模型要不要纳入同一套规则,Delangue 的立场和其他三位明显不在一条线上——Hugging Face 的生意建立在开放生态之上,一刀切的管制等于断它的粮。
Gary Marcus 在自己的通讯里提醒读者别被场面话带跑。他引述一位病毒学家的判断:Amodei 把AI发现新酶类比成 CRISPR 级别的范式革命,说得太超前。这个提醒戳中了要害——安理会达成的,不过是 最低限度的共识。把它读成治理框架即将落地的信号,就高估了这场简报会的含金量。真正的分歧,还留在会议室门外。

