把推理强度从 low 调到 high,通常不是给模型“换一个更聪明的大脑”,也不能简单理解为把某个固定 token 配额调大。更接近公开证据的解释是:模型在训练中学会了根据控制信号分配测试时计算,服务端再用生成上限、上下文和运行策略约束这段过程。

先说结论

公开确认

推理强度是模型的控制条件

它告诉模型这次任务应投入多少思考。模型仍会按问题难度自适应,所以同一个等级不会稳定地产生相同数量的推理 token。

工程推论

更高强度通常意味着更多生成步骤

更多自回归步骤会增加延迟、费用和上下文占用。主要变化是“多走几步”,而不是让每一个 token 穿过更多层网络。

仍未公开

闭源服务如何落实这个条件

我们不知道 ChatGPT 是否还会路由到不同检查点、改变采样策略或使用并行候选。API 的相似不等于底层实现相同。

GPT、DeepSeek 等大致共享什么模式?

公开资料指向一种相当通用的结构:先把“要不要思考、思考到什么程度”作为输入条件交给模型;模型生成一段面向内部求解的轨迹,再生成给用户看的最终答案;服务层负责执行总长度、上下文、超时与成本限制。

这里有三个容易混淆的旋钮。推理强度是行为条件,影响模型愿意投入多少计算;最大输出 token是硬上限,防止推理与答案无限增长;回答详略控制用户看到的表达长度。把回答写得更长,并不等于模型思考得更深。

effort怎么分配思考

软性的行为控制

max output最多生成多少

推理和答案共享硬上限

verbosity答案写多详细

面向用户的表达控制

从 DeepSeek 的开源资料看,具体怎么做?

DeepSeek-R1 最重要的启示,不是它公开了一份“low、medium、high 参数表”,而是它证明了:只要奖励设计合适,模型可以在强化学习中自行发展出延长思考、回看前一步、尝试替代路线和自我验证等行为。

推理长度不是手写规则,而是训练结果

R1 论文展示了一个关键现象:随着强化学习推进,R1-Zero 的平均响应长度自然增加,模型也开始出现回溯和重新评估。这说明“多想一会儿”可以被奖励塑造为策略的一部分。它不需要工程师为每道题预先写出推理步骤。

后来的 DeepSeek-V3.2 把机制说得更直接:它同时准备长思维链的 thinking 数据与直接作答的 non-thinking 数据,用不同系统提示和 <think>…</think> 标签区分,并把推理、工具使用和人类偏好合并到强化学习阶段。训练中还加入长度惩罚;减少长度惩罚的 Speciale 版本会使用更多推理 token,并在若干高难度评测上更强,但成本和延迟也更高。

当前 DeepSeek API 又加了一层产品控制

当前文档把 thinking 开关和 effort 分开,并提供 low、high、max 等实际档位映射。思维链通过 reasoning_content 返回,最终答案放在 content。这让开发者能看到接口行为,但仍不能据此断言每一档只是固定 token 上限:文档描述的是档位映射,没有公开完整的服务端执行算法。

闭源 GPT 可能采用什么方法?

对 OpenAI 的闭源模型,可以确认的事实比较有限:reasoning.effort 用来引导模型投入多少思考;推理 token 不通过 API 正文展示,但会占用上下文并按输出 token 计费;max_output_tokens 同时限制隐藏推理与可见答案。官方也明确提醒,实际推理 token 会随问题复杂度显著变化。

公开确认

gpt-oss 提供了一个可观察样本

OpenAI 的开放权重模型使用 Harmony 格式,在系统消息中直接放入 Reasoning: low、medium 或 high,并把分析与最终回答放在不同 channel。这证明 OpenAI 至少有一种实现,是让同一组模型权重读取显式的推理强度条件。

合理推测

闭源 GPT 也可能接受预算条件

最朴素的实现是:在训练样本中加入 effort 或预算信号,让模型学会在低档尽快作答,在高档进行更多检查和搜索;推理服务再负责总长度与超时边界。DeepSeek 的混合训练和 gpt-oss 的控制格式都支持这种推测。

仍未公开

不能从 API 名字推出内部细节

闭源 GPT 是否会切换模型检查点、使用额外验证器、生成多个候选再选择,或按任务动态路由,官方没有完整说明。ChatGPT 产品中的“思考时间”也不一定与 API 的 effort 一一对应。

因此,最稳妥的心智模型是“训练得到的计算分配策略 + 推理时的资源边界”。它比“high 就固定多给 8,000 个 token”更准确,也比“high 会激活更多神经网络层”更符合自回归 Transformer 的常见执行方式。

GPT 与 DeepSeek 真正可见的差异

维度OpenAI / GPTDeepSeek
用户可见性API 不返回原始隐藏推理;可查看推理 token 用量或摘要,具体能力依模型而定。当前 API 将思维链放在 reasoning_content,与最终答案分开返回。
公开训练证据闭源 GPT 的配方未公开;gpt-oss 展示了显式 effort 条件与 channel 分离。R1、V3.2 论文公开了冷启动数据、GRPO、结果奖励、长度惩罚、混合 thinking / non-thinking 训练等方法。
档位语义支持值和默认值随模型变化;更高 effort 是引导,不是固定 token 保证。当前 API 把多种兼容值映射到 low、high、max,并允许关闭 thinking。
我们不能断言的事无法确认闭源服务是否路由模型、并行采样或使用外部验证器。无法仅凭 R1 论文推导当前线上模型各档位的全部服务端实现。

两家的核心方向并不神秘:都在扩大测试时计算,让模型在提交答案前拥有更多生成、验证和工具调用机会。差异主要体现在训练配方公开程度、推理过程是否返回、档位设计与系统工程细节,而不是一个拥有“真正推理”、另一个只是“输出更长”。

对我们有什么启发?如何选择推理强度?

不要把最高档当成默认质量开关。更高强度扩大的是解决问题的机会空间,也会扩大绕远路、重复验证和错误前提上过度思考的空间。先按任务所需的最短可靠路径选择,再用真实任务评测调整。

LOW

答案路径短且清楚

提取、分类、格式转换、简单改写、明确事实查询。

目标:减少等待与费用
MEDIUM

大多数日常复杂任务

普通代码、比较方案、总结多份材料、带少量约束的计划。

目标:作为默认平衡点
HIGH

需要反复检查的任务

复杂调试、架构权衡、数学推导、多约束决策和长链工具调用。

目标:用延迟换成功率
MAX / XHIGH

只有评测证明值得时

失败代价很高、任务确实受计算量限制,并且额外思考能稳定改善结果。

目标:解决少量最难样本

用一次小评测代替直觉

  1. 收集真实任务。选 20~50 个有代表性的样本,包含简单题和容易失败的边界题。
  2. 只改变 effort。保持模型、提示词、工具和最大输出上限一致,每档重复运行以减少随机性。
  3. 同时看四个指标。任务成功率、端到端延迟、token 成本、人工返工时间。
  4. 选择最低的可靠档位。只有质量提升稳定且足以覆盖额外成本时,才向上调。

资料与结论边界

本文优先使用官方文档、官方仓库与原始论文。接口和支持档位会随模型版本变化,使用时应再查看对应模型的最新文档。