这种主动性怎么从harness层面调整
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
提问
这种主动性怎么从harness层面调整
回答
Agent 表现出来的「主动性」(遇到报错自己换路子钻、不轻易把球踢回给用户),在 Harness 层面其实不是靠玄学,主要靠循环控制和 Hook 门禁来调。
最核心的开关是退出拦截(Stop Hook)。在标准的 Agent 循环里,只要模型这一轮不返回 tool_calls、只吐出纯文本,循环就默认结束了,Agent 也就「停下来」找人了。想要它像 Hermes 那样死磕到底,就是在模型试图退出时挂一层拦截:比如检查一下目标文件改完没有、单测和 lint 跑通没有。只要没过验收,Harness 就直接拦住不让它输出给用户,把报错或者「任务未完成,继续排查」作为新消息塞回上下文,逼着它进下一轮循环继续干。
其次是工具链的自救抓手。很多 Agent 之所以一碰壁就停,是因为工具报错太干瘪或者没有替代路径。Harness 里如果把 bash 报错、控制台日志、截图这类现场信息原封不动喂回去,再配齐读文件、查环境、搜资料的工具,模型就有抓手自己做诊断和换方案重试;反过来,如果你想让它老实点、别乱试,就把关键节点的工具设为需要人工审批(Human-in-the-loop),一到敏感操作或权限边界就强制挂起。
不过主动性拉满很容易带来另一个工程问题:在死胡同里空转烧 Token。所以调 Harness 本质上是在调「坚持度」和「止损线」的平衡。除了放宽 max_turns 和预算上限,还得在工具执行前后的 Hook 里加熔断机制——比如检测到连续两三次调用完全相同的参数、或者同一个报错修了几轮都没变化,就直接强行打断循环,把当前现场和卡点吐给用户接管,别让它无限重试下去。
至于 System Prompt 里写「遇到问题自己想办法解决,不要轻易问用户」,只能算辅助,模型犯懒的时候照样会偷跑退出,真正能稳住主动性上下限的还是上面这套循环拦截和熔断护栏。
所属话题:Agent 工程