IBM показала: агенты на открытых моделях ускорили проект декодера квантовой коррекции ошибок в 52 раза за $26
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Открытые модели справились с задачей по проектированию чуть хуже закрытой, но почти в двенадцать раз дешевле.
В демонстрации исследователей IBM координирующий агент направляет параллельных агентов-исполнителей, которые разрабатывают альтернативные варианты схемы в рамках бюджета поиска. На алгоритме Relay-BP (декодирование квантовой коррекции ошибок) конфигурация на открытых моделях дала ускорение в 52 раза при затратах около $26 на вывод — в 11,5 раза дешевле, чем $299 у закрытой модели, которая дала ускорение в 204 раза. Инфраструктура — открытый фреймворк llm-d, доля попаданий в кэш префиксов около 98%, смешанная стоимость обслуживания — $0,11 за миллион токенов.
Источники 1