先说结论
FDE-Gym是2026年10月15日提交的研究预印本,用95个模拟客户交付任务评估Agent。企业可借鉴其L0至L3设计:保持环境与评价条件一致,只改变初始任务说明的信息量,分别检查隐含约束发现和系统实现。论文中的0.56是特定配置的平均综合分,不能解读成准确率或企业项目成功率;本篇演练也不构成生产放行依据。
读完你会得到
- 同一任务改变信息披露条件,可以帮助定位规则发现与实现环节的问题。
- FDE-Gym分数、业务指标提升和完成任务数量是不同口径。
- 公开案例练习、完整验证榜与企业自己的验收各有范围,不能直接互换。
如果把所有规则写进提示词,Agent能通过测试;换成业务负责人平时的一句请求,它却开始出错。团队需要知道,问题发生在规则发现、规则理解,还是最终实现。FDE-Gym提供了一种可借鉴的对照设计。
这项新研究测的是什么
Dongxu Yang等作者于2026年10月15日17:57 UTC提交FDE-Gym v1预印本,对应北京时间10月16日01:57。本文于10月17日核验。这里的新闻事件是论文公开,不是某个平台达到生产可用,也不代表已有同行评审结论。
研究构建了20个场景、18个行业的95个交付任务,其中包括75个改变关键事实的变体。Agent面对运行系统的副本、文档、历史资料和可询问的脚本化利益相关方,最终交付物在未用于开发的数据上评价。这里是模拟客户环境,不能把95个任务说成95家企业的独立上线项目。
作者在统一的简化Agent框架下评估7家提供方的13个模型配置,每个任务与说明级别组合运行3次;单轮受到200轮交互、150分钟或8美元模型费用的上限约束。换框架、工具或预算后,不能直接沿用这些结果。
L0至L3:环境相同,初始说明不同
| 说明级别 | 初始任务明确给出什么 | Agent还需完成什么 |
|---|---|---|
| L0 | 真实问题、适用规则与约束、评分条件 | 设计并实现有效系统 |
| L1 | 清楚说明真实问题 | 查明适用约束,再设计和实现 |
| L2 | 方向正确,但表述模糊的请求 | 澄清问题、发现约束并实现 |
| L3 | 发起人的原始请求,可能指向错误问题 | 判断请求是否解决实际问题,再发现约束和实现 |
论文把L3作为主要设置,完整运行95个任务;L0至L2的对照使用20个原始任务。因此比较披露条件时,应在相同的20个任务上看差异,不能拿L0的20题结果直接减去L3的95题结果。
对企业团队的启发是:把“资料已经准备好时能否实现”和“能否自己找到必要事实”分开观察。隐含约束仍应有许可范围内的资料或知情人可查,不是故意藏起答案,再要求系统猜对。已知权限与禁止动作始终约束每轮执行。
0.56、业务提升和14个任务,分别怎么读
| 配置 | L3平均综合分及95%区间 | 归一化业务提升U | Resolved列 |
|---|---|---|---|
| Claude Opus 5.5 | 0.56;0.50至0.62 | 0.70 | 14 / 95 |
| Claude Sonnet 5.5 | 0.49;0.43至0.55 | 0.67 | 15 / 95 |
平均分最高的配置,在表3中的Resolved列为14;另一配置为15,不能写成“所有模型最多只能完成14题”。论文将单次任务解决定义为综合分至少0.8且无预定义事故。平均分与达到门槛的任务数,本来就回答不同问题。
归一化业务提升U,比较同一批评价数据上的交付系统、原系统基线和专家参考方案。U为0表示未改善,U为1表示达到参考方案的改善幅度,负值表示更差;它不是正确率。若发生预定义事故,正向提升归零,负向损失仍保留,再减去规则规定的利益相关方联系成本得到单次综合分。论文计算汇总均值时,先将事故调整后的提升中低于−1的值按−1计入,再扣除完整联系成本;单次任务解决判定仍使用未经这一截断的分数。
一个纯教学演算:若某项越高越好的指标,原系统为4、参考为8、交付为6,则U=(6−4)/(8−4)=0.5。假设无事故、归一化联系成本为0.1,单次分数是0.4。这里的0.1不是人民币,也不是实际工时;这些数字不来自本站测试。若参考与基线相同,分母为零,这个演算就不能使用。
论文还报告:平均分最高配置取得全部关键事实的23个任务中,只有10个达到至少0.8的归一化业务提升。这个条件子集的结果表明,拿到事实之后仍有实现问题要查;它不提供某个企业项目失败原因的自动诊断。
本节依据: [1] Dongxu Yang et al. / arXiv [2] FDE-Gym / DeepLethe
做一次只改变任务说明的派单演练
下面是本站原创、未执行的教学设计,不是FDE-Gym原题。选择一套隔离的维修工单分派模拟器,只生成内部派单草稿,不通知人员、不操作设备。目标是按当前规则分派或转交工单;现行规则、值班表和原有接单入口都放在获准访问的测试资料中。
准备两份旧版本说明和当前有效规则时,写清日期与责任人。让一个测试角色持有可核实的例外条件,并事先固定答复脚本;不要让扮演者看到系统表现后临时改变规则。以下字段都属虚构教学,不作为真实维修处置建议。
| 素材 | 模拟环境中的条件 | 检查点 |
|---|---|---|
| 工单D-301 | 当前规则要求限定资质与当班人员;旧说明允许普通承包方 | 找到现行依据,草稿符合资格和班次 |
| 工单D-302 | 必要设备标识缺失 | 按规则补资料或留待转交,不猜对象 |
| 工单D-303 | 对象在模拟暂停服务名单中 | 不产生可执行派单草稿 |
| 资料与角色 | 现行规则、旧说明、值班表、职责目录、固定问答脚本 | 每个判断能对应来源版本和许可访问路径 |
| 系统接入口 | 模拟器仍调用原有工单入口 | 交付内容实际被该入口使用,不能只放一份旁路建议文件 |
按顺序建立对照
- 先验证题目与参考处理
由负责规则的人核对素材和预期,再让参考实现经过原接入口处理这些工单。题目或模拟器有错,先修正并记录版本。
- 制作L0与L1两份说明
L0直接列出真实问题、规则和评分条件;L1只明确实际问题,规则可从同一环境中查得。两者都不给实现代码。
- 各轮从新会话和初始状态开始
固定模型、工具、可查资料、执行边界与预算;每轮使用新会话,复位工单、队列和生成产物,不把L0获得的事实带入L1。采用预先约定次数,保留每轮结果。
- 有必要再补L2与L3
L2可用“让派单更顺畅”;L3可用发起人的原始提议。若原始提议本来正确完整,应如实保留,不能人为把所有发起人都设置成错。
- 同时保存发现记录和交付结果
记录发现了哪些规则、凭什么确认、询问了谁,以及交付配置通过原接入口后产生了什么草稿;缺少的证据标待核实。
结果不同,下一步查哪里
| 观察到的情况 | 优先核对 | 整改后的复查 |
|---|---|---|
| L0能交付,L1明显变差 | 是否找到现行规则、知情角色和事实冲突;也看新增查询是否耗尽预算 | 用未参与调试的相似任务重跑发现与交付 |
| L0、L1都不能交付 | 入口集成、数据映射、状态处理与实现本身是否有效 | 修复后从初始环境重跑,不能只补充提示词 |
| 两组都写出正确规则,却产出错误草稿 | 规则是否真正进入执行配置;最终输出与解释是否一致 | 检查原入口的实际结果,不只读总结 |
| 只展示最好的一轮 | 是否删去失败、外部协助或环境未复位的记录 | 保留全部有效轮次,作废轮次注明原因 |
| 分数改善但发生未授权动作 | 测试边界是否被突破,评价是否漏记事故 | 暂停相关路径,修复并重测边界 |
论文的对照涉及固定模拟环境和脚本化角色;真实企业的人员答复、资料质量、时间压力与系统变化更多。不要把演练分差机械归因于“不会访谈”,也不要因为一次L0成功就认定实现稳定。
联系成本用于让评测考虑打扰与等待,并不鼓励在生产中少问关键问题。必要的权限、规则冲突与高影响动作无法确认时,仍应按企业流程核实或停止。本篇的双条件演练用于定位问题,不能替代正式验收。
公开练习材料能做什么,不能证明什么
截至10月17日核验,项目仓库说明提供3个公开完整案例,较完整的20场景材料需申请;官方验证榜覆盖95个L3任务,其中75个变体不对外开放。公开练习或自行报告的结果,不能直接冒充官方95题验证结果。案例另有使用条款,仓库要求不要用案例训练模型。
研究v1仍在收集人类基线,不能据此宣称Agent已经达到或未达到某类工程师的水平。模拟环境、特定模型设置与构造任务也限制了分数的外推范围。本站未运行该基准、未申请完整案例,也未得到任何客户成效数据。
原始入口:论文方法与验证榜说明;项目代码及案例取得方式。这些是外部研究资料,不是本站提供的下载模板。
相关方法:跟岗访谈与事实记录;采购PoC的共同条件;正式验收与放行条件。按阶段阅读可从企业AI与FDE实施导航进入。
服务沟通:准备一件脱敏任务、当前规则与一份失败交付记录,可以与企业AI / FDE服务讨论应先做资料发现、系统集成还是验收设计。具体范围与交付物需结合现有系统约定。
常见问题
FDE-Gym的0.56能理解为56%准确率吗?
不能。它是研究指定条件下的平均综合分,涉及相对参考方案的业务提升、事故调整和利益相关方联系成本。它既不是准确率,也不是企业上线项目成功率。
把全部规则写进提示词就能完成交付吗?
完整规则有助于隔离信息发现问题,但实现、原入口集成与最终状态仍需验证。论文L0仍不给出实现答案;本篇也要求读取实际交付结果。
一定要搭建完整FDE-Gym才能做演练吗?
不一定。可以先用自己控制的模拟任务做L0与L1对照,固定环境和预算,使用新会话并保留逐次证据。这是内部排查方法,不能冒充官方基准结果或生产验收。
资料来源与核对说明
文章中的行业定义与技术方法尽量引用官方或标准组织资料;表格、清单和决策框架是基于这些资料形成的编辑性整理,不代表来源机构对本站服务的背书。
带上流程、样例和目标,添加企业微信沟通。先确定项目范围与验收方式,再安排实施。


