本站原创 · Model · 高级
从零构建推理模型 · 视频伴学
跟随 Sebastian Raschka 的 8 集免费视频，从 Qwen3 0.6B 预训练模型出发，学习评测、推理时扩展、GRPO 与蒸馏。每节配有官方视频、代码入口，以及本站原创练习、自测和笔记。
适合：熟悉 Python 与 PyTorch 的大学生、开发者和成人学习者。8 节，每节建议约 30 分钟，按自己的节奏学习。
官方课程 · 本站中文伴学
8 集官方视频 · 超过 11 小时
讲师：Sebastian Raschka
作者于 2026-10-24 发布视频合集，配合《Build a Reasoning Model (From Scratch)》。第一集为动机与环境准备，其后对应第 2–8 章。不要求先学完《从零构建大模型》；需要 Python 与 PyTorch 基础。前期生成和评测可使用 CPU，支持 Apple Silicon；后期实验尤其训练建议 GPU。具体内存、依赖和设备支持以官方代码为准，torch.compile 的可用性和收益须在自己的设备实测。
这里的 30 分钟是每节中文导读与练习的建议时间，不含官方视频、模型下载及本地实验。本站不执行模型训练；视频由 YouTube 提供，图书另行购买，不影响学习免费视频和公开代码。
官方来源核对：2026-10-25 · 官方视频可在各章节播放
从第一步到最终作品
-
第 1 节 · 30 分钟
第一集：准备环境，建立实验档案 →
确认可用设备，并写出能复现实验的环境记录。
-
第 2 节 · 30 分钟
第二集：跑通生成与 KV cache →
建立固定输入的生成基线，分别验证正确性与速度。
-
第 3 节 · 30 分钟
第三集：验证器与评测基线 →
用边界用例检查评分器，并写出可复现的 MATH-500 评测记录。
-
第 4 节 · 30 分钟
第四集：采样与多数投票 →
比较单次生成和多候选投票的质量与计算代价。
-
第 5 节 · 30 分钟
第五集：评分与自我修正 →
保留修正前后的答案，检验自我修正究竟改好了什么。
-
第 6 节 · 30 分钟
第六集：理解并实现简化 GRPO →
追踪一次奖励到相对优势、损失和参数更新的数据流。
-
第 7 节 · 30 分钟
第七集：训练诊断、clip 与 KL →
用训练指标与独立评测发现不稳定更新和奖励投机。
-
第 8 节 · 30 分钟 · 项目交付
第八集：蒸馏与最终实验报告 →
设计不泄漏测试题的蒸馏数据流程，交付可复现实验报告。
参考来源与内容说明
本专题的讲解、示例、练习和测验由本站独立编写，参考 Sebastian Raschka · Building Reasoning Models from the Ground Up。本站内容不等同于官方全部课程或认证。学习本站专题无需跳转；如需官方视频、作业和证书，可按需查看原平台。
查看官方参考课程 ↗