БлогТег
Статьи с тегом «Инженерия»
Гайды, разборы цен и инженерные заметки об API генерации изображений: Nano Banana, Qwen-Image, Seedream и Wan в сравнении по цене за изображение.
6 мин чтенияgenmux API Team
Вызов функций на DeepSeek, Qwen и Doubao: эмуляция
Как genmux даёт OpenAI-совместимые tools для DeepSeek, Qwen3 и Doubao, когда шлюз вендора отбрасывает поле tools: теги, терпимый парсер, результаты, JSON mode.
4 мин чтенияgenmux API Team
Стриминг ответов LLM по SSE и стоимость в последнем чанке
Разбор потока server-sent events genmux для чат-completions на Python и Node, поиск объекта usage в последнем чанке, обработка обрыва стрима.
2 мин чтенияgenmux API Team
Лимиты и очереди в продакшен-конвейерах изображений
Проектирование конвейера генерации, переживающего пики трафика: RPS на ключ, лимит одновременных заданий, очереди, бэкофф и расчёт пропускной способности.
2 мин чтенияgenmux API Team
Ключи идемпотентности и честное списание в API изображений
Как мы гарантируем, что один юнит списывается максимум за одно изображение: ключи идемпотентности, write-ahead запись вызовов и автоматические возвраты.