Fireworks представила инференс до 1500 токенов в секунду и развёртывание на инфраструктуре клиента
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Компании получают больше способов ускорить агентов, снизить их стоимость и запускать открытые модели внутри собственного периметра.
На конференции Forge компания открыла публичное превью Ultra-fast на NVIDIA Blackwell: по измерениям Fireworks, DeepSeek V4.1 Flash выдаёт до 1500 токенов в секунду, а тестовая агентная задача из 30 шагов сократилась с минуты до восьми секунд. Background Mode предлагает выполнение отложенных задач за половину цены, многодневное кэширование сокращает повторную обработку контекста. Nexus Desktop подключает выбор открытых и закрытых моделей к Codex, Claude Desktop и OpenCode; Specialized Model Inference выводит LoRA-адаптеры на serverless-инференс. Fireworks Sovereign находится в закрытом превью и переносит инференс и обучение в облако или дата-центр клиента под его правила безопасности.
Источники 2