把推理强度从 low 调到 high,通常不是给模型“换一个更聪明的大脑”,也不能简单理解为把某个固定 token 配额调大。更接近公开证据的解释是:模型在训练中学会了根据控制信号分配测试时计算,服务端再用生成上限、上下文和运行策略约束这段过程。
先说结论
推理强度是模型的控制条件
它告诉模型这次任务应投入多少思考。模型仍会按问题难度自适应,所以同一个等级不会稳定地产生相同数量的推理 token。
更高强度通常意味着更多生成步骤
更多自回归步骤会增加延迟、费用和上下文占用。主要变化是“多走几步”,而不是让每一个 token 穿过更多层网络。
闭源服务如何落实这个条件
我们不知道 ChatGPT 是否还会路由到不同检查点、改变采样策略或使用并行候选。API 的相似不等于底层实现相同。
GPT、DeepSeek 等大致共享什么模式?
公开资料指向一种相当通用的结构:先把“要不要思考、思考到什么程度”作为输入条件交给模型;模型生成一段面向内部求解的轨迹,再生成给用户看的最终答案;服务层负责执行总长度、上下文、超时与成本限制。
总生成上限 · 上下文窗口 · 超时 · 服务策略
这里有三个容易混淆的旋钮。推理强度是行为条件,影响模型愿意投入多少计算;最大输出 token是硬上限,防止推理与答案无限增长;回答详略控制用户看到的表达长度。把回答写得更长,并不等于模型思考得更深。
软性的行为控制
推理和答案共享硬上限
面向用户的表达控制
从 DeepSeek 的开源资料看,具体怎么做?
DeepSeek-R1 最重要的启示,不是它公开了一份“low、medium、high 参数表”,而是它证明了:只要奖励设计合适,模型可以在强化学习中自行发展出延长思考、回看前一步、尝试替代路线和自我验证等行为。
已有语言与知识能力,还没有稳定的长推理行为。
R1-Zero 直接奖励正确答案与格式,模型逐渐学会延长推理、反思和验证。
R1 加入数千条可读的长思维链样本,再结合推理 RL、监督微调和对齐 RL。
用 R1 产生的推理样本微调较小的 Qwen、Llama 模型,迁移解题模式。
推理长度不是手写规则,而是训练结果
R1 论文展示了一个关键现象:随着强化学习推进,R1-Zero 的平均响应长度自然增加,模型也开始出现回溯和重新评估。这说明“多想一会儿”可以被奖励塑造为策略的一部分。它不需要工程师为每道题预先写出推理步骤。
后来的 DeepSeek-V3.2 把机制说得更直接:它同时准备长思维链的 thinking 数据与直接作答的 non-thinking 数据,用不同系统提示和 <think>…</think> 标签区分,并把推理、工具使用和人类偏好合并到强化学习阶段。训练中还加入长度惩罚;减少长度惩罚的 Speciale 版本会使用更多推理 token,并在若干高难度评测上更强,但成本和延迟也更高。
当前 DeepSeek API 又加了一层产品控制
当前文档把 thinking 开关和 effort 分开,并提供 low、high、max 等实际档位映射。思维链通过 reasoning_content 返回,最终答案放在 content。这让开发者能看到接口行为,但仍不能据此断言每一档只是固定 token 上限:文档描述的是档位映射,没有公开完整的服务端执行算法。
闭源 GPT 可能采用什么方法?
对 OpenAI 的闭源模型,可以确认的事实比较有限:reasoning.effort 用来引导模型投入多少思考;推理 token 不通过 API 正文展示,但会占用上下文并按输出 token 计费;max_output_tokens 同时限制隐藏推理与可见答案。官方也明确提醒,实际推理 token 会随问题复杂度显著变化。
gpt-oss 提供了一个可观察样本
OpenAI 的开放权重模型使用 Harmony 格式,在系统消息中直接放入 Reasoning: low、medium 或 high,并把分析与最终回答放在不同 channel。这证明 OpenAI 至少有一种实现,是让同一组模型权重读取显式的推理强度条件。
闭源 GPT 也可能接受预算条件
最朴素的实现是:在训练样本中加入 effort 或预算信号,让模型学会在低档尽快作答,在高档进行更多检查和搜索;推理服务再负责总长度与超时边界。DeepSeek 的混合训练和 gpt-oss 的控制格式都支持这种推测。
不能从 API 名字推出内部细节
闭源 GPT 是否会切换模型检查点、使用额外验证器、生成多个候选再选择,或按任务动态路由,官方没有完整说明。ChatGPT 产品中的“思考时间”也不一定与 API 的 effort 一一对应。
因此,最稳妥的心智模型是“训练得到的计算分配策略 + 推理时的资源边界”。它比“high 就固定多给 8,000 个 token”更准确,也比“high 会激活更多神经网络层”更符合自回归 Transformer 的常见执行方式。
GPT 与 DeepSeek 真正可见的差异
| 维度 | OpenAI / GPT | DeepSeek |
|---|---|---|
| 用户可见性 | API 不返回原始隐藏推理;可查看推理 token 用量或摘要,具体能力依模型而定。 | 当前 API 将思维链放在 reasoning_content,与最终答案分开返回。 |
| 公开训练证据 | 闭源 GPT 的配方未公开;gpt-oss 展示了显式 effort 条件与 channel 分离。 | R1、V3.2 论文公开了冷启动数据、GRPO、结果奖励、长度惩罚、混合 thinking / non-thinking 训练等方法。 |
| 档位语义 | 支持值和默认值随模型变化;更高 effort 是引导,不是固定 token 保证。 | 当前 API 把多种兼容值映射到 low、high、max,并允许关闭 thinking。 |
| 我们不能断言的事 | 无法确认闭源服务是否路由模型、并行采样或使用外部验证器。 | 无法仅凭 R1 论文推导当前线上模型各档位的全部服务端实现。 |
两家的核心方向并不神秘:都在扩大测试时计算,让模型在提交答案前拥有更多生成、验证和工具调用机会。差异主要体现在训练配方公开程度、推理过程是否返回、档位设计与系统工程细节,而不是一个拥有“真正推理”、另一个只是“输出更长”。
对我们有什么启发?如何选择推理强度?
不要把最高档当成默认质量开关。更高强度扩大的是解决问题的机会空间,也会扩大绕远路、重复验证和错误前提上过度思考的空间。先按任务所需的最短可靠路径选择,再用真实任务评测调整。
答案路径短且清楚
提取、分类、格式转换、简单改写、明确事实查询。
目标:减少等待与费用大多数日常复杂任务
普通代码、比较方案、总结多份材料、带少量约束的计划。
目标:作为默认平衡点需要反复检查的任务
复杂调试、架构权衡、数学推导、多约束决策和长链工具调用。
目标:用延迟换成功率只有评测证明值得时
失败代价很高、任务确实受计算量限制,并且额外思考能稳定改善结果。
目标:解决少量最难样本用一次小评测代替直觉
- 收集真实任务。选 20~50 个有代表性的样本,包含简单题和容易失败的边界题。
- 只改变 effort。保持模型、提示词、工具和最大输出上限一致,每档重复运行以减少随机性。
- 同时看四个指标。任务成功率、端到端延迟、token 成本、人工返工时间。
- 选择最低的可靠档位。只有质量提升稳定且足以覆盖额外成本时,才向上调。
资料与结论边界
本文优先使用官方文档、官方仓库与原始论文。接口和支持档位会随模型版本变化,使用时应再查看对应模型的最新文档。
- OpenAI:Reasoning models — effort、隐藏推理 token 与总输出上限。
- OpenAI:Model guidance — 不同任务的 effort 选择与“更高不总是更好”。
- OpenAI:Harmony response format — gpt-oss 的推理强度条件和 channel 结构。
- DeepSeek:Thinking Mode — thinking 开关、effort 映射与
reasoning_content。 - DeepSeek-R1 论文 — R1-Zero、冷启动、多阶段训练与蒸馏。
- DeepSeek-V3.2 论文 — thinking / non-thinking 混合训练、GRPO、长度惩罚与扩展测试时计算。
- DeepSeek-R1 官方仓库 — 模型、运行建议与公开权重入口。