Epoch AI 用内部工作任务评测前沿模型:Claude Fable 5.1 与 GPT-6 Astra 平均只得 65%

发布时间: 2026-10-27 文章分类: AI前沿技术
阅读量: 0
AI智能体
企业级AI智能体开发与部署
LumeValley提供全栈式企业级AI智能体开发与部署服务,涵盖战略规划、场景化开发、企业级应用构建、行业解决方案及算力支撑。从需求分析到持续优化,确保智能体高效稳定运行,助力企业实现智能化转型,提升运营效率与竞争力。

Epoch AI 交出的答案是 65%。不是 95%,不是「接近人类水平」,就是 65%。这份名为 Epoch Automation Reports 的新评估,考的并不是竞赛题或者代码题库,而是这家研究机构里员工每天真正在干的活:画一张能直接贴进报告的图表,排一份下一阶段的研究计划。上考场的是当前最能打的两个模型,Claude Fable 5.1 和 GPT-6 Astra,平均得分落在了 65%。而 Epoch 给「可自动化」划的门槛是 100%,一分都不能少。

100% 这条线,比大多数人想的狠得多

「能搭把手」和「能替你干」中间隔着一整条街

业界讨论 AI 替代工作时,习惯用一种模糊的说法:某个岗位「有一部分任务可以被自动化」。这句话听着温和,实际什么也没说。Epoch 的做法是把模糊地带切掉——任务要么能被机器完整接手,要么不能。65 分意味着这个模型的产出仍然需要一个人类坐下来检查、修改、补齐,那么这段时间人力就没有被释放,自动化在成本账上等于没发生。

人类员工成了对照组,而不是陪衬

评估标准的参照系是机构内部的人类员工表现,不是某个抽象的「专家水平」。这个选择很关键。人类员工知道这份图表是给谁看的、上一版被老板打回来是因为哪句话、这个研究计划要绕开哪个已经踩过的坑。这些信息从来不会完整地写进任务描述里,却决定了产出能不能用。模型拿不到这层上下文,只能靠猜。

平均分是最容易骗人的那个数字

65% 是个平均数。平均数的问题在于,它会把「几乎完美」和「彻底跑偏」抹成同一个数字。图表设计类任务可能拿到七八十分,因为格式和配色有规律可循;研究规划类的分数大概率被拉得很低,因为那需要判断什么值得做、什么现在做不了。把两类任务混在一起算总账,读者看到的是一个温和的中间值,实际情况更可能是两头分化。评估报告如果要真正有用,拆开看子项比看总分重要得多。

偏偏挑图表和研究规划,是有讲究的

一张图里藏着多少条没写下来的规矩

做一张能用的图表,表面上是数据可视化,实际上是一连串隐式约束的求解:这张图要放进第几页、和旁边的图怎么呼应、坐标轴从零开始还是截断、配色要不要跟前文一致、哪些数据点必须标出来免得被误读。人类做这些决定时几乎不用思考,因为规则长在经验里。模型看到的是「画一张趋势图」这几个字,剩下的全靠推断。它给出的图单看可能挺漂亮,放进上下文就露馅。

研究规划考的是判断力,不是生成能力

让模型写一段文字很容易,让它决定接下来三个月该做哪个方向,是另一码事。研究规划的核心是取舍:这个想法有意思但做不出来,那个方向稳妥但没新意,还有个方向需要的外部数据根本拿不到。做这类判断需要知道失败的成本由谁承担。模型没有这个约束,它给出的计划往往面面俱到、逻辑通顺,但缺乏那种「先做这个,因为其他都可以等」的锋利感。而锋利感恰恰是规划的价值所在。

最有意思的一点:Epoch 测的是 Epoch 自己

评估方下场当被试,样本从哪来

这套评估的题目来自 Epoch 的内部真实任务。也就是说,出题的人、被模拟的岗位、判分的标准,全部指向同一家机构。好处显而易见:任务是真的,不是编出来的玩具题,避免了那种「基准测试分数很高、实际用起来一塌糊涂」的老毛病。代价也存在——一家研究机构的工作方式有很强的自身特色,它衡量出的能力分布,未必能平移到一家芯片公司或者一家医院的行政岗上。

内部任务没法靠刷题通过

不过换个角度看,这种评估的防作弊能力比公开基准强得多。公开题库会被反复训练、反复调优,最终分数反映的是模型对题目的熟悉程度。内部任务没有公开样本,模型第一次见到就是第一次做,这个条件下的 65 分,含金量比某些榜上的 90 分更实在。评估方法本身在这里成了一个值得关注的样本:用真实工作衡量 AI,正在取代用考试衡量 AI。

两个头部模型打成平手,这件事值得多说两句

停在同一位置,不是巧合

Claude Fable 5.1 和 GPT-6 Astra 分属两家路线不同的公司,训练方法、数据配比、对齐策略都不一样,最终却在这个评估上落在同一档。这种收敛通常意味着瓶颈不在模型各自的工程细节上,而在它们共享的那部分能力边界。换句话说,继续加大算力、继续堆数据,未必能把 65 推上去——因为缺的可能不是知识量,是任务中那些没有被言明的约束条件。

缺的那部分,规模解决不了

模型做不好的地方,集中在需要读取隐性上下文、承担后果、做价值排序的环节。这些能力不会随着参数增长自动出现。它们要么依赖更深的机构内部信息接入,要么依赖某种形式的反馈循环——做完之后被告知哪里错了,下次改。而现有的一次性调用模式下,这个循环根本不存在。

剩下的 35 个百分点,不会自己消失

从初稿到交差,中间隔着一整轮返工

很多人对 AI 效率的估计,建立在一个错误的前提上:只要模型能产出 80 分的东西,人类就省了 80% 的力气。真实情况是,修改一份 80 分的产出,有时候比从零开始更累——你得先读懂它的思路,找出它偏离的地方,再决定是改还是推倒重来。65 分正好落在这个尴尬区间:有用,但不足以托付。这也是为什么「可自动化门槛」被定在 100%,而不是某个看起来更宽容的数字。

现在该做的事,不是等下一代模型

如果这份评估有一个实际可用的结论,大概是这个:机构在引入 AI 时,应该先把任务拆成两类——上下文清晰、验收标准明确的那部分,现在就可以交出去;需要读空气、扛责任、做取舍的那部分,还得留给人。同时,把隐性规则写下来这件事本身,正在变成一项有价值的投资。规则写得越清楚,模型能接手的工作就越多,那 35 分的差距也就缩得越快。

65 分不是一个让人失望的数字,它是一个诚实的数字。它说明模型已经能碰到真实工作的边缘,也说明从「碰到」到「接手」之间,还有一段需要靠工程、流程和制度去填的路。这条路没人能跳过。

AI智能体
企业级AI智能体开发与部署方案
LumeValley打造企业级AI智能体全流程方案,涵盖需求洞察、定制开发、多平台适配部署。凭借专业算法与丰富经验,确保智能体精准理解业务,高效执行任务,无缝融入企业生态,为企业数字化转型提供强劲智能引擎,提升核心竞争力。
点赞 | 69

Lumevalley——全栈AI服务领航者,以“战略-应用-算力”三位一体服务框架,为企业提供从顶层战略规划、场景化AI智能体(AI Agent)开发/搭建/部署,到企业级AI应用开发、AI+行业场景解决方案的全链路服务,并配套AI大模型部署与高性能AI算力底座支撑,助力客户在营销、服务、运营等核心环节实现效率倍增与模式创新。

马上扫码获取产品资料
下一篇: 没有了
相关文章

相关文章

填写以下信息, 免费获取方案报价
姓名
手机号码
企业名称
  • 建筑建材
  • 化工
  • 钢铁
  • 机械设备
  • 原材料
  • 工业
  • 环保
  • 生鲜
  • 医疗
  • 快消品
  • 农林牧渔
  • 汽车汽配
  • 橡胶
  • 工程
  • 加工
  • 仪器仪表
  • 纺织
  • 服装
  • 电子元器件
  • 物流
  • 化塑
  • 食品
  • 房地产
  • 交通运输
  • 能源
  • 印刷
  • 教育
  • 跨境电商
  • 旅游
  • 皮革
  • 3C数码
  • 金属制品
  • 批发
  • 研究和发展
  • 其他行业
需求描述
填写以下信息马上为您安排系统演示
姓名
手机号码
你的职位
企业名称

恭喜您的需求提交成功

尊敬的用户,您好!

您的需求我们已经收到,我们会为您安排专属电商商务顾问在24小时内(工作日时间)内与您取得联系,请您在此期间保持电话畅通,并且注意接听来自广州区域的来电。
感谢您的支持!

您好,我是您的专属产品顾问
扫码添加我的微信,免费体验系统
(工作日09:00 - 18:00)
电话咨询 (工作日09:00 - 18:00)
客服热线: 18011747352
售前热线: 189 2432 2993
扫码即可快速拨打热线