T learn.traeai

官方视频 · Sebastian Raschka

Inference-time scaling: sampling and self-consistency

点击后加载第三方播放器,视频由原平台提供。播放取决于网络与原平台的嵌入设置;若无法播放,可使用上方官方观看链接。下方中文导读和练习由本站独立编写。

第 4 节 · 本站原创中文课程 · 建议 30 分钟

第四集:采样与多数投票

学完能做:比较单次生成和多候选投票的质量与计算代价。

建议时间仅指中文导读与练习,不含官方视频和本地实验。代码请在自己的 Python / PyTorch 环境运行。

一次改变一个采样设置

固定模型和题目,分别比较候选数,再单独比较 temperature 或 top-p。保存全部候选,避免只展示成功样例。候选之间可能重复,多生成几次并不自动带来独立证据。

投票前先明确规则

本站练习假设候选已被人工归一化,用下面的小函数检查平票处理。它只是投票规则示例,不是数学答案验证器;真实实验应接入上一节的提取和等价判断,并单列无有效候选的情况。

from collections import Counter

def vote(normalized_answers):
    counts = Counter(a for a in normalized_answers if a is not None)
    if not counts:
        return {"answer": None, "status": "no_valid_answer"}
    best = max(counts.values())
    winners = [a for a, n in counts.items() if n == best]
    return {"answer": winners[0] if len(winners) == 1 else None,
            "status": "ok" if len(winners) == 1 else "tie"}

print(vote(["1/2", "1/2", "2"]))
print(vote(["1/2", "2"]))

正确率和预算放在同一张表

为每个配置同时记录正确题数、候选数、总 token 和耗时。投票多数可能一起错,不能把多数意见当作证明。对比时可先限制总生成预算,再观察增加候选是否仍然值得。

这是本站独立编写的讲解与示例,并非官方课程逐字翻译。理解之后,请完成下面的练习、自测和笔记。

参考来源:Sebastian Raschka · Building Reasoning Models from the Ground Up

动手,把理解变成成果

本节练习

正在读取本机草稿…

测试无候选、平票和唯一多数三种输入,再设计 n=1 与 n=4 的模型对照。提交质量、token 和耗时记录;未运行模型的项明确标待测。

65 / 6000 字。本页不执行代码;可下载后在本地运行,或用 Agent 获取定性建议。

给我一个提示

先用手工列表验证规则,再用模型输出替换列表;二者的测试结论分开。

查看参考思路(本站预写,非实时 Agent)

三类手工用例分别返回 no_valid_answer、tie 和唯一答案。模型对照固定题目和长度限制,同时报告 n=1 / n=4 的总 token;多数错误单列分析,不宣称投票必然提高正确率。

人工自评:逐项核对自己的作品

这些勾选由你确认,不是自动测试结果。遇到待测项,请在作品里明确注明。

理解自测

四个候选中三个给出相同答案,说明什么?

自己的学习笔记

0 / 3000 字 · 仅保存在此浏览器

围绕当前章节学习

Agent 答疑与作品评价

正在检查连接…

本站讲解、提示、参考思路和自测可独立使用。连接模型服务后,才能实时提问或评价;这里不会把预写内容伪装为 Agent 回答。

走完学习闭环

完成本节

保留练习、勾选人工自评并通过自测后,可记录完成。修改作品或答案会重新打开本节。

课程进度:0 / 8 · 本机记录,不是外部官方证书

下一节:第五集:评分与自我修正 →
← 上一节:第三集:验证器与评测基线