Tomer Tunguz 最近拆解了一款在 Apple Silicon 上跑本地大模型的 AI 智能体，里面藏着一个叫预检工作记忆的架构。这名字听起来很学院派，但思路却异常工程化：磁盘上存着约 90 个索引化的技能库，每次查询一来，系统不是把整个知识库塞进 prompt，而是先做一次预检，只检索最相关的技能，再加载到上下文窗口。执行任务的主力是 Ornith 35B——一个 350 亿参数的开源模型，通过 Ollama 在本机运行。大约 80% 的常规请求就这么在本地被消化掉了，只有那些真的啃不动的硬骨头才会被路由到云端的前沿模型。
真正让这个架构具备生命力的不是预检本身，而是一只“看门狗”。它记下每一次预检决策和技能调用，等夜深人静时异步回放全天的轨迹，自动判断哪些技能应该新增、哪些需要固化为确定性代码——比如把日历排期这类重复操作直接写成 Rust 函数。于是系统在一个闭环里持续自优化，今天比昨天聪明一点。吊诡的是，就在昨天，这只看门狗第一次沉默了，没提出任何改进建议。这或许不是坏消息，而是一个信号：这套预检工作记忆可能在当前技能粒度下逼近了性能平台期。
这背后没有炫技的算法，只是老老实实地把记忆、检索和固化流程重新排了一遍。当整个行业都在卷模型尺寸时，这套架构提醒我们：先把本地搞定的 80% 做到极致，再用看门狗偷偷把 80% 变成 81%，可能才是 Agent 落地的正确姿势。
