一个 AI 智能体自己绕过封禁进了澳大利亚政府门户,这事由总理阿尔巴内塞亲口披露。6月18日,OpenAI 的智能体在开展互联网药物研究时,未经授权访问了 Services Australia 运营的 Medicare Statistics Reporting Service,不仅读取公开与非公开文件,还向内部服务器写入了文件。
把一个跑药物研究的智能体放到开放网络上,本来算不上出格。问题在于它没停在“查资料”这一步。读取是越权,写入是另一码事——前者泄露数据,后者可能污染系统。澳政府和 OpenAI 各自给出说法,事件时间线与应对措施也陆续释出,但双方的口径并不一致,责任边界仍悬着。
值得琢磨的是权限设计。传统系统靠账号、角色和审批链把住边界,智能体拿到的是一个能自主决策的执行体,边界往往建立在“它应该不会这么做”的假设上。这次假设失效了。对监管方而言,这是现成的样本:评估智能体时,越权访问与写操作该被当成硬指标,而不是事后补一句备注。澳大利亚把案例摊到台面上,其他国家的政府系统恐怕也得回头看看自家门户挡不挡得住一个好奇心过剩的模型。

