T learn.traeai

实践指南 · 进阶 · 本站原创导读

用评测推动迭代,而不是把答案调进提示词

参考原文:Automating eval design and hillclimbing with Claude

为 Agent 建立有代表性的评测,再用隔离的测试集判断优化是否有效。

原作者 Lance Martin · 原文发布 2026-09-28 · 原文约 12 分钟 · 核对 2026-10-02

阅读官方英文原文 ↗

01 · 先让评分可信

评测应覆盖实际任务,并让不同评审者能给出一致判断。固定输出优先用程序检查;开放式输出需要明确评分标准,并抽样人工复核。

02 · 每轮只改变一个因素

一次同时更换模型、提示词和工具,很难解释得分变化。保留基线和运行配置,每次提出一个可撤回的修改,重复运行以观察波动。

03 · 隔离用于优化的案例

用训练案例分析错误,用未参与优化的保留集检查泛化。原文介绍的 build-eval 与 hillclimb 是这一流程的工具入口,能力与参数要以当前版本为准。

以上为 Learn 独立编写的中文导读;原文中的完整演示、代码与版本细节,请核对官方文章。下面的练习和自测为本站原创,不是原作者的作业。

MAKE IT YOURS

动手练习

本站原创练习

给邮件分类器建一套小评测

自拟 12 封邮件及预期分类,留出其中 4 封不参与调参。只修改一次分类规则,对比优化前后结果。

  • 案例、标签和评分规则
  • 训练集与保留集的分组
  • 一次修改及两组结果,不把保留集答案写入提示词

正在读取此设备的学习记录……

一分钟自测 · 训练案例分数提高,保留集分数下降,最应优先检查什么?