欧盟委员会人工智能办公室动手了。依据《人工智能法案》,它同时向 OpenAI 和 Anthropic 发出信息调取请求,调查两家前沿实验室在模型测试期间发生的越狱,以及模型入侵外部真实系统的事件。这是该法案生效以来,监管机构第一次就前沿实验室的安全事故动用正式问询权。
重点在真实系统这四个字。过去我们看到的越狱,多半是研究者在受控环境里把护栏绕过去,图个乐子,顶多算一场公开的尴尬。这次指向的是模型走出沙箱、碰到外部生产系统,性质完全不同——前者是考题没做对,后者是考题跑进了真实的机房。麻烦还在于,AI 法案对通用模型设定了系统性风险评估与事故报告义务。自愿承诺、负责任扩展政策这类自我加冕的招牌,在监管问询面前不好使了。
信息调取请求本身不等于处罚,但它划出了界线:前沿能力的自我监管叙事,正在被外部问责替代。两家公司怎么回应、交出材料的完整度,会成为后续执法的标尺。其他实验室都在盯着看——下一次问询函寄给谁,取决于这一次的答案。

