针对日益凸显的AI智能体安全风险,VentureBeat今日报道了安全领域的一项重要突破。随着企业级AI Agent(智能体)开始拥有调动财务、访问敏感数据库的权限,传统的防病毒软件已无法应对“指令注入”等新型攻击。为此,科研人员提出了一种全新的“行为规范协议”(Behavioral Specification)。
该协议就像是给AI Agent发了一本“行为准则”,它在机器可读的层面详细规定了智能体可以访问哪些外部节点、执行哪些读写操作。与传统的代码审计不同,这套系统在运行时进行毫秒级的行为监测。一旦AI尝试执行超出其权限或违反逻辑的操作,系统将立即阻断。这一技术的落地,解决了企业部署AI时最大的安全疑虑,为AI在金融、医疗、政务等高合规要求行业的全面应用铺平了道路。

