genmux API 现已全面开放。 查看文档 →
genmux API

博客

思维链模型:什么时候该开推理,以及它的成本

1 分钟阅读作者 genmux API Team


思维链模型在你看到回复之前会产出两种文本:它内部走完的一段推理过程,以及最终答案。两者都是 token,也都按同一种方式计费——算输出。这一个事实,就足以解释多数人第一次在繁忙接口上打开 enable_thinking 之后收到的账单惊喜。

哪些模型支持

enable_thinking: true 是在标准 OpenAI 结构之上的 genmux 扩展参数,只有为它设计过的模型才会真的有反应:

模型思维链
deepseek-v4-pro、deepseek-v4-flash支持
qwen3-7-max、qwen3-max支持
doubao-seed-2-pro、doubao-seed-2-code、doubao-seed-2-lite支持
deepseek-v3、qwen3-6-flash、doubao-seed-2-mini不支持

把 enable_thinking 发给第二组模型不会报错——它会被静默忽略,所以在一段会按任务调用不同模型的公共代码里留着它是安全的。GLM、Kimi 以及 Qwen 的 Plus/Coder 系列因上游修复暂时下架;它们回归后,思维链支持情况会重新写进这里。

推理 token 为什么算输出

没有单独的「思维链」价位档,推理文本相对可见答案也没有折扣——两者都是模型生成出来的 token,usage.completion_tokens 把它们全都算上。如果一个模型本来 80 个 token 就能回答,你打开了思维链,它先推理了 600 个 token 再作答,那你被计费的大约是 680 个 completion token,而不是 80 个。

python
from openai import OpenAI

client = OpenAI(base_url="https://api.genmux.tech/v1", api_key="nb_live_...")

resp = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": "Is 8191 prime? Show your reasoning."}],
    max_tokens=1200,
    enable_thinking=True,
)

print(resp.choices[0].message.content)
print(resp.usage)
# Usage(prompt_tokens=14, completion_tokens=643, total_tokens=657,
#       cost=0.092, cost_source="vendor")

那 643 个 completion token 大部分是推理过程,而不是那句一行的答案——不开思维链的话,那句答案大概 20 个 token 就够了。

一个算清楚的对比

同一个问题、同一个模型,思维链关闭对打开,按 DeepSeek V4 Pro 每百万输出 $1.782 的费率计:

Completion token输出成本
思维链关闭约 25约 $0.00004
思维链打开约 643约 $0.00115

一次调用相差约 25 倍很容易吸收;但同样的倍数放到每天 10 万个请求上,就把一个每天 $4 的接口变成每天 $115。两个数字都不算错——这是实打实的「成本换推理深度」——但它必须是一个有意识的选择,而不是测试时打开后忘了关。

什么时候值得打开

  • 多步数学、逻辑或规划——思维链模型正是为这类任务而生。这里的准确率提升通常对得起成本。
  • 一次性或低频调用——一天只跑几百次的支持类脚本,完全负担得起这个倍数。
  • 含糊或对抗性的输入——推理能帮模型抓住直接作答会漏掉的边界情况。

什么时候别开

  • 大流量的分类、抽取或短对话——不开思维链的模型本来就做得不错的任务,不需要多花这笔钱。
  • 对延迟敏感的界面——推理会在可见答案开始流出之前(或与之交错)实打实地增加墙钟时间。
  • 热路径上每个请求都会走到的地方——先在一部分流量上打开,量一量 token 差值,再决定要不要全量铺开。

流式与思维链同时使用

推理内容和最终答案走同一个 delta.content 字段——没有单独的 SSE 事件类型——所以一个简单粗暴的界面会把推理过程直接渲染给用户,除非你自己过滤。包含「推理 + 答案」完整 completion_tokens 的 usage,仍然只在 data: [DONE] 之前的最后一个分块里到达;解析细节见 SSE 流式指南。

开始使用

试一下 enable_thinking 不花什么成本——给一个请求加上它,看看前后的 usage.completion_tokens,然后用真实数字而不是猜测来决定。逐模型的费率见价格页,完整参数说明见文档。

关于作者

作者 genmux API Team — genmux API.

了解我们