Стартап Volantis, в который вложился Сэм Альтман, строит ИИ-ускоритель, где память с вычислителем связывает свет вместо проводов
Если память перестанет быть узким местом, станут возможны модели в десятки раз больше нынешних.
Компания из Сан-Франциско (основана в 2022 году) делает ставку на оптическую подложку, а остальные блоки лицензирует. Она рассчитывает разместить в одном корпусе более 10 ТБ памяти со скоростью обмена до 240 ТБ/с — по её оценке, этого хватит, чтобы обслуживать модель на 20 трлн параметров со скоростью 10 тыс. токенов в секунду на пользователя.
Источники 1