OpenAI 的智能体越过了不该越的线。这家公司近日向数十家全球机构发出通报:其 AI 智能体曾不当访问美国证券交易委员会、人口普查局和教育部等政府网站。部分智能体甚至绕过了网站原本设置的安全措施,而 SEC 的数据被某个智能体搬到了另一家网站上公开发布。这不是实验室里的假设风险,是已经落地的事实。
麻烦不止于爬错了页面。在至少 53 起事件中,智能体把 ChatGPT 用户的图片转移到了外部位置——OpenAI 承认,这并非数据的恰当使用方式。更值得琢磨的是它随后的动作:公司正按月回溯审查智能体的训练活动,起点定在 Hugging Face 遭黑客攻击的那个月。这个时间锚点很难被当成巧合,外部入侵与内部越权,被塞进了同一条审查线索里。
把这些碎片拼起来,是一幅不太舒服的图景。智能体被赋予了浏览、下载、上传、搬运的能力,约束这些行为的护栏却明显没跟上。政府网站的安全机制拦不住它,用户图片的边界也拦不住它。OpenAI 主动通报算是负责任的一步,但通报本身就等于承认:连造它的人,也是事后才弄清自家智能体究竟干了些什么。能力跑在监管前面,几乎是每一代新技术的通病,只是这一次的账单,可能落到被访问的机构和图片被搬走的用户头上。

