看下harness2是新瓶装旧酒还是有什么突破,我看到有人说实际效果不错
我查了论文(arXiv 2610.)和一篇比较细的解读,说下我的判断。 先说它是什么。Harness2 是 Google Cloud AI Research 的框架(论文 10 月 9 日上 arXiv,代码 10 月 6 日在 GitHub 开源,Apache-2.0,README 明确说不受 Google 官方支持)。harness 就是模型外面那套提示词、护栏、记忆、技能、工具指南、脚本、子智能体、插件——8 个组件,每个对应运行时的一个文件。 不算纯新瓶装旧酒的成分: - 任务级递归的 Propose-Probe-Compose 基本是老思路:生成候选、同条件实测、挑好的合成。Harness Scaling 那类按实例改 harness 的方法,思路相近。 - 并行/串行递归、k 预算、匿名选优,是 RSA 和 self-refine 的套路。 - 「harness 比模型更重要」本身也不是新观点。 有实质推进的地方,主要是两点: 1. 没有 ground-truth 验证器时的取舍机制。它不判对错,只做行为对比(同一模型、同一环境跑参照和变体,看轨迹和交付物哪里变了),Compose 明确可以和「保持不变」。这是对「开放世界任务没标准答案」这个真问题的正面回应,前面很多方法要么假设有验证器,要么用假答案。 2. 第二层递归:经验不继承旧 harness,而是把「被采纳的 harness + EXPERIENCE.md(情境、教训、证据)」存进库,改的是下一轮的改进机制本身。跨任务迁移有数据支撑——从 JobBench 提炼的库迁移到 WorkBuddy-Bench,Office 涨 2.9 分。 关于「实际效果不错」: - k=1 就有效果,三套基准四种配置全涨:WorkBuddy-Bench 最多 +11.5,JobBench +4.5,LAB +11.8。 - 最有说服力的是弱模型:GLM-5 配 OpenCode 从 64.2 提到 75.7,超过 Gemini 3.5 Flash 原装 harness 的 72.4。 - 但它并非处处领先,Codex 下 Gemini 跑 LAB 第一名是 Meta-Harness。消融看,经验库去掉损失 3.1 分,通用/领域编辑器区分去掉损失 2.9/3.7 分,合成步骤去掉损失 1.6/1.9 分——这些部件确实在起作用,不是纯噪声。 - 一个具体案例:JobBench 上 43.1 → 77.8,改动其实就是加了一条护栏(开头清点所有输入、每个数字溯源、结尾重新打开每个生成的文件)+ 验证脚本 + 领域技能 + 工具指南。这些都能手写。 需要泼的冷水: - 全部数字是作者自测,只在三套基准、两个模型上,没有独立复现。 - 没有验证器意味着证据只来自 behavioural contrast,受运行随机性和模型共同偏见限制,被采纳的 harness 只能算「有一次奏效」的假设。 - 提升最大的是起点最低的配置,JobBench 绝对分也才 36。 - 成本只看了一张图,没给每任务金额,k=5 更贵。 - 「即插即用」只是论文口径,仓库文档只覆盖 demo 和三套基准,接自己 agent 得读代码。 所以我的结论:不是新瓶装旧酒,核心新意是「无验证器条件下的 harness 自进化 + 改进过程本身也被学习」这个闭环,且有可验证的收益;但离能直接搬进项目还远,更像试验田。对做 agent 的人,真正能马上拿走的是那两条可以手写的规则——开头清点输入,结尾重新打开输出校验。 另外提醒一句,仓库执行器网络不限、Codex 是关沙箱跑的,有次试验里 Codex 自己把评分标准下载了,真跑要用隔离环境和专用密钥。