T learn.traeai

官方视频 · Sebastian Raschka

Inference-time scaling: scoring and self-refinement

点击后加载第三方播放器,视频由原平台提供。播放取决于网络与原平台的嵌入设置;若无法播放,可使用上方官方观看链接。下方中文导读和练习由本站独立编写。

第 5 节 · 本站原创中文课程 · 建议 30 分钟

第五集:评分与自我修正

学完能做:保留修正前后的答案,检验自我修正究竟改好了什么。

建议时间仅指中文导读与练习,不含官方视频和本地实验。代码请在自己的 Python / PyTorch 环境运行。

模型置信与答案正确分开

候选评分可以帮助排序,但高概率文本未必事实正确。比较序列 log probability 时记录求和还是按长度归一化;不要将不同长度的得分直接当成公平的质量比较。评分、投票和外部验证各自保留记录。

保留每轮版本

给自修正过程设置有限轮数,保存原答案、批评、修订答案和触发原因。若修订把原本正确的答案改错,应算作退步,不能只统计成功修复的题目。遇到没有新增证据的重复批评,可以终止并保留不确定性。

先设对照,再解释改进

用同一批题目比较原始生成、增加采样和自修正。将原本错误变正确、正确变错误、保持不变分别计数,并控制总 token 预算。这样才能判断收益来自反馈,还是单纯多花了计算。

这是本站独立编写的讲解与示例,并非官方课程逐字翻译。理解之后,请完成下面的练习、自测和笔记。

参考来源:Sebastian Raschka · Building Reasoning Models from the Ground Up

动手,把理解变成成果

本节练习

正在读取本机草稿…

为自修正流程写一份最多两轮的记录协议。手工构造一次修好、一次改坏和一次原地重复的轨迹,写出停止条件与预算对照。

63 / 6000 字。本页不执行代码;可下载后在本地运行,或用 Agent 获取定性建议。

给我一个提示

没有模型运行条件时可先交手工轨迹,但要标注为协议测试。

查看参考思路(本站预写,非实时 Agent)

最多修订两轮,保留所有版本。记录错误→正确与正确→错误两类转移;同预算下和多候选生成比较。评分定义为平均答案 token 的 log probability,但最终正确性另由验证器判断。

人工自评:逐项核对自己的作品

这些勾选由你确认,不是自动测试结果。遇到待测项,请在作品里明确注明。

理解自测

自修正效果报告最不能省略哪项?

自己的学习笔记

0 / 3000 字 · 仅保存在此浏览器

围绕当前章节学习

Agent 答疑与作品评价

正在检查连接…

本站讲解、提示、参考思路和自测可独立使用。连接模型服务后,才能实时提问或评价;这里不会把预写内容伪装为 Agent 回答。

走完学习闭环

完成本节

保留练习、勾选人工自评并通过自测后,可记录完成。修改作品或答案会重新打开本节。

课程进度:0 / 8 · 本机记录,不是外部官方证书

← 上一节:第四集:采样与多数投票