T learn.traeai

官方视频 · Sebastian Raschka

Building a verifier for evaluation and reinforcement learning

点击后加载第三方播放器,视频由原平台提供。播放取决于网络与原平台的嵌入设置;若无法播放,可使用上方官方观看链接。下方中文导读和练习由本站独立编写。

第 3 节 · 本站原创中文课程 · 建议 30 分钟

第三集:验证器与评测基线

学完能做:用边界用例检查评分器,并写出可复现的 MATH-500 评测记录。

建议时间仅指中文导读与练习,不含官方视频和本地实验。代码请在自己的 Python / PyTorch 环境运行。

把评分器当作需要测试的程序

本站练习先准备人工可判断的答案对:相等分数、不同符号、多个候选答案、缺失最终答案、格式错误。每条写预期与理由。不要把简单字符串相等当成一般数学等价,也不要把解析失败默默算成模型不会做题。

失败需要分型

给结果记录增加 extraction_status、verdict 与 failure_reason。这样能区分模型答案错误、提取器没找到答案和评分器判断失败。先人工复核少量样本,再扩到正式数据集。验证器以后还会影响训练奖励,误判值得单独统计。

固定评测才能比较

固定数据集版本、题目 ID、模型和生成参数。小样本冒烟测试用来排错,不宣称是完整 MATH-500 成绩;完整评测报告写分母、排除项与原始输出路径。评测集不参与后续训练或超参数选择。

这是本站独立编写的讲解与示例,并非官方课程逐字翻译。理解之后,请完成下面的练习、自测和笔记。

参考来源:Sebastian Raschka · Building Reasoning Models from the Ground Up

动手,把理解变成成果

本节练习

正在读取本机草稿…

为验证器设计至少六个用例并人工标注预期。再写一份评测记录模板,能区分解析失败和错误答案,并说明如何避免评测数据进入训练。

72 / 6000 字。本页不执行代码;可下载后在本地运行,或用 Agent 获取定性建议。

给我一个提示

从 1/2 与 0.5、1 与 -1、缺失答案、多个冲突答案等小例子开始。

查看参考思路(本站预写,非实时 Agent)

1/2 与 0.5 预期等价,1 与 -1 不等价,空输出归提取失败,多答案冲突进入人工复核。记录全部题目分母,同时单列解析失败率;测试题目 ID 在训练前隔离。

人工自评:逐项核对自己的作品

这些勾选由你确认,不是自动测试结果。遇到待测项,请在作品里明确注明。

理解自测

验证器把解析失败全部计为正确,最直接的后果是?

自己的学习笔记

0 / 3000 字 · 仅保存在此浏览器

围绕当前章节学习

Agent 答疑与作品评价

正在检查连接…

本站讲解、提示、参考思路和自测可独立使用。连接模型服务后,才能实时提问或评价;这里不会把预写内容伪装为 Agent 回答。

走完学习闭环

完成本节

保留练习、勾选人工自评并通过自测后,可记录完成。修改作品或答案会重新打开本节。

课程进度:0 / 8 · 本机记录,不是外部官方证书

下一节:第四集:采样与多数投票 →
← 上一节:第二集:跑通生成与 KV cache