Все новости

OpenAI открыла Decisions API для всех клиентов: модель быстро выбирает из заданных вариантов, отвечая за 100–180 миллисекунд вместо 1–3 секунд

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Появился отдельный класс быстрых моделей, которые не пишут тексты, а мгновенно выбирают нужный вариант, и у них уже есть конкуренция.

По данным TechCrunch, Decisions API — «модель решений» на основе Luna: вместо развёрнутого текста она выбирает из заранее заданных вариантов и оценивает свою уверенность. Сервис анонсировали 29 сентября на конференции разработчиков OpenAI, 22 октября он стал доступен всем клиентам. Руководитель API-продукта OpenAI Никунж Ханда назвал главным выигрышем скорость: ответ занимает 100–180 миллисекунд вместо одной–трёх секунд. Категорию создала модель Jev стартапа TypeSafe (после её запуска компанию оценили в $7,6 млрд): в индексе Artificial Analysis Decision Index Jev занимает третье место, OpenAI — восьмое.

Источники 1

История

Модели, отвечающие выбором или вероятностью, а не текстом

7 событий
  1. OpenAI открыла Decisions API для всех клиентов: модель быстро выбирает из заданных вариантов, отвечая за 100–180 миллисекунд вместо 1–3 секундОткрыто сейчас
  2. Subquadratic выпустила SubQ Snap: модель-решатель для агентов обрабатывает 100 тысяч токенов примерно за секунду
  3. Cloudflare выпустила открытую модель Clef-omni, которая выбирает вариант ответа по аудио, видео, картинкам и тексту за один проход
  4. Microsoft выпустила Decision-1: модель отвечает не текстом, а вероятностью выбора, и стоит $0,042 за миллион входных токенов
  5. Liquid AI выложила открытые модели d1: они отвечают без текста, за один проход
  6. OpenAI открыла Decisions API: модель отвечает не текстом, а вероятностью, выбором или баллом
  7. Amazon и Cloudflare выпустили открытые «модели решений» — быстрые ИИ, которые выбирают вариант, а не пишут текст
Подписаться в Telegram