DeepX отправила в производство 5-ваттный чип DX-M2 для локальных моделей до 100 млрд параметров
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Если заявленные характеристики подтвердятся на образцах, крупные языковые модели смогут работать прямо в роботах и ноутбуках с небольшим расходом энергии.
Южнокорейская DeepX завершила проектирование второго поколения ускорителя DX-M2 и передала его в производство. По заявлению компании, чип на 2-нм техпроцессе рассчитан на модели со 20–100 млрд параметров с активными 3–20 млрд, генерацию 10–30 токенов в секунду и потребление 5 Вт. Производительность составляет 80 TOPS, пропускная способность памяти — 150 ГБ/с. Образцы ожидаются в марте 2027 года, серийный выпуск запланирован на осень 2027 года. DeepX и Samsung также испытывают память LPDDR5x-PIM, выполняющую часть операций внутри микросхем памяти. Моделирование показало ускорение Llama 3.1 8B в 6,7 раза по сравнению с одним DX-M2 при росте энергопотребления в 2,7 раза; компания рассчитывает получить двукратный прирост без увеличения энергетического бюджета. Это результаты симуляции будущей связки, а не измерения готового устройства.
Источники 1