第 5 节 · 本站原创中文课程 · 建议 30 分钟
第五集:评分与自我修正
学完能做:保留修正前后的答案,检验自我修正究竟改好了什么。
建议时间仅指中文导读与练习,不含官方视频和本地实验。代码请在自己的 Python / PyTorch 环境运行。
模型置信与答案正确分开
候选评分可以帮助排序,但高概率文本未必事实正确。比较序列 log probability 时记录求和还是按长度归一化;不要将不同长度的得分直接当成公平的质量比较。评分、投票和外部验证各自保留记录。
保留每轮版本
给自修正过程设置有限轮数,保存原答案、批评、修订答案和触发原因。若修订把原本正确的答案改错,应算作退步,不能只统计成功修复的题目。遇到没有新增证据的重复批评,可以终止并保留不确定性。
先设对照,再解释改进
用同一批题目比较原始生成、增加采样和自修正。将原本错误变正确、正确变错误、保持不变分别计数,并控制总 token 预算。这样才能判断收益来自反馈,还是单纯多花了计算。
这是本站独立编写的讲解与示例,并非官方课程逐字翻译。理解之后,请完成下面的练习、自测和笔记。
参考来源:Sebastian Raschka · Building Reasoning Models from the Ground Up