思维链模型:什么时候该开推理,以及它的成本
1 分钟阅读作者 genmux API Team
思维链模型在你看到回复之前会产出两种文本:它内部走完的一段推理过程,以及最终答案。两者都是 token,也都按同一种方式计费——算输出。这一个事实,就足以解释多数人第一次在繁忙接口上打开 enable_thinking 之后收到的账单惊喜。
哪些模型支持
enable_thinking: true 是在标准 OpenAI 结构之上的 genmux 扩展参数,只有为它设计过的模型才会真的有反应:
| 模型 | 思维链 |
|---|---|
deepseek-v4-pro、deepseek-v4-flash | 支持 |
qwen3-7-max、qwen3-max | 支持 |
doubao-seed-2-pro、doubao-seed-2-code、doubao-seed-2-lite | 支持 |
deepseek-v3、qwen3-6-flash、doubao-seed-2-mini | 不支持 |
把 enable_thinking 发给第二组模型不会报错——它会被静默忽略,所以在一段会按任务调用不同模型的公共代码里留着它是安全的。GLM、Kimi 以及 Qwen 的 Plus/Coder 系列因上游修复暂时下架;它们回归后,思维链支持情况会重新写进这里。
推理 token 为什么算输出
没有单独的「思维链」价位档,推理文本相对可见答案也没有折扣——两者都是模型生成出来的 token,usage.completion_tokens 把它们全都算上。如果一个模型本来 80 个 token 就能回答,你打开了思维链,它先推理了 600 个 token 再作答,那你被计费的大约是 680 个 completion token,而不是 80 个。
from openai import OpenAI
client = OpenAI(base_url="https://api.genmux.tech/v1", api_key="nb_live_...")
resp = client.chat.completions.create(
model="deepseek-v4-pro",
messages=[{"role": "user", "content": "Is 8191 prime? Show your reasoning."}],
max_tokens=1200,
enable_thinking=True,
)
print(resp.choices[0].message.content)
print(resp.usage)
# Usage(prompt_tokens=14, completion_tokens=643, total_tokens=657,
# cost=0.092, cost_source="vendor")那 643 个 completion token 大部分是推理过程,而不是那句一行的答案——不开思维链的话,那句答案大概 20 个 token 就够了。
一个算清楚的对比
同一个问题、同一个模型,思维链关闭对打开,按 DeepSeek V4 Pro 每百万输出 $1.782 的费率计:
| Completion token | 输出成本 | |
|---|---|---|
| 思维链关闭 | 约 25 | 约 $0.00004 |
| 思维链打开 | 约 643 | 约 $0.00115 |
一次调用相差约 25 倍很容易吸收;但同样的倍数放到每天 10 万个请求上,就把一个每天 $4 的接口变成每天 $115。两个数字都不算错——这是实打实的「成本换推理深度」——但它必须是一个有意识的选择,而不是测试时打开后忘了关。
什么时候值得打开
- 多步数学、逻辑或规划——思维链模型正是为这类任务而生。这里的准确率提升通常对得起成本。
- 一次性或低频调用——一天只跑几百次的支持类脚本,完全负担得起这个倍数。
- 含糊或对抗性的输入——推理能帮模型抓住直接作答会漏掉的边界情况。
什么时候别开
- 大流量的分类、抽取或短对话——不开思维链的模型本来就做得不错的任务,不需要多花这笔钱。
- 对延迟敏感的界面——推理会在可见答案开始流出之前(或与之交错)实打实地增加墙钟时间。
- 热路径上每个请求都会走到的地方——先在一部分流量上打开,量一量 token 差值,再决定要不要全量铺开。
流式与思维链同时使用
推理内容和最终答案走同一个 delta.content 字段——没有单独的 SSE 事件类型——所以一个简单粗暴的界面会把推理过程直接渲染给用户,除非你自己过滤。包含「推理 + 答案」完整 completion_tokens 的 usage,仍然只在 data: [DONE] 之前的最后一个分块里到达;解析细节见 SSE 流式指南。
开始使用
试一下 enable_thinking 不花什么成本——给一个请求加上它,看看前后的 usage.completion_tokens,然后用真实数字而不是猜测来决定。逐模型的费率见价格页,完整参数说明见文档。