T learn.traeai

第 5 节 · 本站原创中文课程 · 建议 25 分钟

第五课:用测试集发现失败

学完能做:计算目标匹配率,解释测试泄漏与小样本局限。

小鱼模型实验 · 读完后到练习区动手,先预测,再记录结果。

先约定目标再看结果

本站固定卡片为“喜欢→海草”“吐→气泡”“住在→海里”,逐项比较基线预测与目标。匹配率=匹配数÷总测试数;未知输入也计入分母,并另外统计未知数。这是精确匹配指标,不是通用语言质量评分;气泡接在喜欢后也可能合理,却不满足本次预设目标。

看分项,不只看总分

基础组是1/3,另外两项未知;“更多动作”组加入相应例子后是3/3。测试后针对这三题改了数据,相当于拿测试反馈调模型,成绩只能说明这三题的变化。真实研究应保留没参与修改的独立测试集;GuppyLM 项目给出57000条训练和3000条测试对话。

留一组真正的新题

在改动前写下至少3张额外测试卡,封存目标,不用它们选数据或调规则。课堂三题太少,不能据此推算所有任务的成功率。本站基线确定性运行,重复三次不会产生新证据;真实随机采样则可用多次运行记录波动。

这是本站独立编写的讲解与示例,并非官方课程逐字翻译。理解之后,请完成下面的练习、自测和笔记。

参考来源:arman-bd / GuppyLM 开源项目

动手,把理解变成成果

本节练习

正在读取本机草稿…

保存两组的逐项结果,手算匹配率,再设计三张未用于调试的新测试卡。

64 / 6000 字。用自己的话记录发现;作品保存在本机,不发送给外部伴学模型。

给我一个提示

固定测试只用于课堂对照,别把它称为独立泛化评测。

查看参考思路(本站预写,非实时 Agent)

基础组1/3,未知2;更多动作组3/3,未知0,但按已知题目补了数据。需要封存新题,精确匹配也会漏掉合理替代答案。

人工自评:逐项核对自己的作品

这些勾选由你确认,不是自动测试结果。遇到待测项,请在作品里明确注明。

理解自测

看过测试题再针对它改数据,最高分可以证明?

自己的学习笔记

0 / 3000 字 · 仅保存在此浏览器

走完学习闭环

完成本节

保留练习、勾选人工自评并通过自测后,可记录完成。修改作品或答案会重新打开本节。

课程进度:0 / 15 · 本机记录,不是外部官方证书

← 上一节:第四课:训练、推理和温度