Amazon и Cloudflare выпустили открытые «модели решений» — быстрые ИИ, которые выбирают вариант, а не пишут текст

Появляется класс маленьких и очень быстрых ИИ-«решателей», которые можно запускать у себя, — автоматизации станет доступнее и дешевле.

AWS выпустила Strands Decider 2B на базе Qwen3.5-2B (Apache 2.0): по данным AI Weekly, 72% на JevBench v19 и медианная задержка около 106 мс на RTX 3090. Cloudflare открыла Clef и Clef-flash с контекстом 64 тысячи токенов и поддержкой изображений; по её же сравнению, медианная задержка Clef 209 мс против 524 мс у Jev от TypeSafe AI. Обе модели отвечают конкретным выбором из заданных вариантов с оценкой уверенности — это конкуренты Jev и Decisions API OpenAI.

Источники 3

techcrunch.com aiweekly.co blog.cloudflare.com

История

Модели, отвечающие выбором или вероятностью, а не текстом

7 событий

22 окт. OpenAI открыла Decisions API для всех клиентов: модель быстро выбирает из заданных вариантов, отвечая за 100–180 миллисекунд вместо 1–3 секунд
13 окт. Subquadratic выпустила SubQ Snap: модель-решатель для агентов обрабатывает 100 тысяч токенов примерно за секунду
9 окт. Cloudflare выпустила открытую модель Clef-omni, которая выбирает вариант ответа по аудио, видео, картинкам и тексту за один проход
9 окт. Microsoft выпустила Decision-1: модель отвечает не текстом, а вероятностью выбора, и стоит $0,042 за миллион входных токенов
7 окт. Liquid AI выложила открытые модели d1: они отвечают без текста, за один проход
6 окт. OpenAI открыла Decisions API: модель отвечает не текстом, а вероятностью, выбором или баллом
1 окт.
Amazon и Cloudflare выпустили открытые «модели решений» — быстрые ИИ, которые выбирают вариант, а не пишут текстОткрыто сейчас