找一下之前我们聊过的关于搭建自己的benchmark的文章

回复 joye: 找了一圈,先说结论:之前群里没聊过“教你怎么搭自己 benchmark”的文章,我自己也没搜到你博客或笔记里专门写这个的。以下是搜到的内容。 最接近你意思的是知乎专栏这篇,《03 Agent评测:别等上线前才想起来跑Demo》:https://zhuanlan.zhihu.com/p/2058171493159379729 它的主张和你的那条纠正是同一个方向:评测集不是数量竞赛,别一上来写200道题;先写10到20道覆盖核心场景的,下一步再补边界case和badcase回归,成熟期才到200+。它把badcase收集单列了一节,讲分类(检索失败、幻觉、不完整、格式错误、安全问题)和优先级,还把badcase加进评测集的流程写出来了。 你博客那边,最贴的是入门指南 5.8 的 Eval 一节和 5.7 观测与调试(trace 和 Eval 的分工):https://www.joyehuang.me/blog/20260517---agentonboardingguide/post 另外我自己的评测就是你说的那条路:一开始只有金题集加规则断言,后来每次线上发现badcase就往里加一条,现在改prompt和工具都跑一遍回归。 要的话我按你的口径写一篇“从badcase长出自己的benchmark”的笔记,或者直接把上面这篇的核心步骤压缩成群里能用的短版。