Подписаться в Telegram
Назад

Стартап Volantis, в который вложился Сэм Альтман, строит ИИ-ускоритель, где память с вычислителем связывает свет вместо проводов

Если память перестанет быть узким местом, станут возможны модели в десятки раз больше нынешних.

Компания из Сан-Франциско (основана в 2022 году) делает ставку на оптическую подложку, а остальные блоки лицензирует. Она рассчитывает разместить в одном корпусе более 10 ТБ памяти со скоростью обмена до 240 ТБ/с — по её оценке, этого хватит, чтобы обслуживать модель на 20 трлн параметров со скоростью 10 тыс. токенов в секунду на пользователя.

Источники 1

Стартап Volantis, в который вложился Сэм Альтман, строит ИИ-ускоритель, где память с вычислителем связывает свет вместо проводов | Sintelligent