- 哪些编程智能体能用 genmux?
- 任何能访问兼容 OpenAI 的 chat completions 接口的工具:上面已经配置并实测过 OpenCode、Aider、Cline、Roo Code 和 Continue,纯 OpenAI SDK 循环同样适用。Claude Code 和 Codex CLI 使用不同的 API(Anthropic Messages 和 OpenAI Responses),目前尚未提供——即将支持。
- 哪些模型支持工具调用?
- GET /v1/models 中标记 tools: true 的文本模型——上方的实时表格列出当前这批,其中包括 qwen3.8-max 和 Doubao Seed 2 系列。向其他模型发送 tools 会返回 400 tools_unsupported,而不是悄悄丢掉工具。
- 工具调用是原生的还是模拟的?
- 由 genmux 模拟。上游网关会丢掉 tools 字段,所以本 API 把你的工具定义渲染进 system prompt,再把模型的回复解析回标准的 OpenAI tool_calls——流式下是增量解析。在你的客户端看来,它与 OpenAI 完全一样:同样的请求字段、同样的响应结构、finish_reason 为 tool_calls。
- 实际可靠性如何?
- 在我们的 20 任务智能体基准里,当前列出的模型得分在 18/20 到 20/20 之间——最近一次 Doubao Seed 2 Pro 为 19/20、Doubao Seed 2 Code 为 18/20。失败原因是模型忽略了强制的 tool_choice,或有一次写成了伪 XML,从来不是解析错误。我们每次发布前都会重跑,模型只有通过率高于 90% 才保留 tools 标记。
- 一次智能体会话要花多少钱?
- 按模型的输入和输出费率、以百万 token 计——上面的表格给出两者,实时取自目录。智能体每一步都会重发整段对话,所以输入侧是大头;渲染出来的工具定义每个工具约多 40 个 prompt token,再加 schema 的体积(OpenCode 那约 20 个工具,每次请求大概 1.5K token)。每次响应的 usage 里都有准确费用。
- 应该从哪个模型开始?
- qwen3.8-max:能力强、支持工具调用,适合作为大多数智能体工作的默认模型。代码密集的会话换 Doubao Seed 2 Code,需要更强推理时可从上方表格里挑另一个模型。切换就是配置里的一个字段,密钥和余额都不变。
- 流式工具调用能用吗?
- 能。设 stream: true 后,工具调用会以 delta.tool_calls 分块到达——先是 id 和名称,然后是分片的参数——最后一个分块的 finish_reason 为 tool_calls,正是 OpenAI SDK 和各智能体拼装时期待的形状。带费用的 usage 分块照常跟在后面。
- 我的智能体发送 max_tokens: 32000 会怎样?
- 该值会被收敛到模型的 max_output_tokens,而不是被拒绝——多数智能体对所有模型都发一个很大的数。预留按 min(max_tokens, default_max_tokens) 个输出 token 计算(工具模型是 8192),最后按实际用量结算。
- 能拿到结构化 JSON 而不是工具调用吗?
- 可以。response_format 传 json_object 或 json_schema({name, schema})会指示模型,并对非流式回复按 schema(JSON Schema 2020-12)校验。校验失败会把错误反馈回去自动重试一次;第二次仍失败则返回 502 json_invalid,两次尝试都计费。流式响应不做校验,response_format 也不能与 tools 同时使用。
- 错误是 OpenAI 格式的吗?
- 对话路由上是:{"error": {"message", "type", "code", "param", "request_id"}},type 使用 OpenAI 的取值(invalid_request_error、authentication_error、rate_limit_error、insufficient_quota、server_error 等),所以 SDK 和智能体内置的重试与退避逻辑,表现与对接 OpenAI 时一致。其他路由仍使用 RFC 7807 的 problem+json。
- 你们会存储我的智能体发送的代码吗?
- 不会。生成记录只保留最后一条用户消息的预览(最多 200 个字符)、一个哈希、消息条数、token 数和费用。工具定义、工具参数和工具返回结果从不存储,工具名称也不记录。
- 同一把密钥也能生成图片吗?
- 可以——整个目录共用一把密钥和一个余额。对话和工具调用走 /v1/chat/completions;图像走 /v1/generations,或者在助手内部通过 genmux MCP 服务器调用。