第 8 节 · 本站原创中文课程 · 建议 30 分钟
第八集：蒸馏与最终实验报告
学完能做：设计不泄漏测试题的蒸馏数据流程，交付可复现实验报告。
建议时间仅指中文导读与练习，不含官方视频和本地实验。代码请在自己的 Python / PyTorch 环境运行。
先划分数据，再生成教师答案
记录教师模型、提示模板、生成参数和数据来源。题目相同、仅答案不同的样本也可能造成泄漏，去重与切分应以题目或来源为单位。教师输出不是天然正确标签，先做验证与抽样复核。
学生真正学习哪些 token？
沿官方代码检查输入与目标如何对齐，区分提示部分、答案部分与 padding 的损失掩码。用一条短样本手工标注，确认不是在训练模型重复题目。验证损失和实际解题正确率分别记录。
用同一评测收尾
汇总基础模型、投票、自修正，以及已实际运行的 GRPO 或蒸馏配置。固定测试集与评分器版本，报告正确题数、总 token、时间和硬件。未跑的方法写待测；若只完成设计和走读，结课作品也应清楚标明这一范围。
这是本站独立编写的讲解与示例，并非官方课程逐字翻译。理解之后，请完成下面的练习、自测和笔记。
参考来源：Sebastian Raschka · Building Reasoning Models from the Ground Up