AMD завершила покупку Taalas, закладывающей веса нейросети прямо в кристалл
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
AMD получит чипы, где модель «вшита» в кристалл и не нужна высокоскоростная память, но при смене модели потребуется изготавливать новый чип примерно за два месяца.
AMD завершила приобретение канадского разработчика специализированных ИИ-чипов Taalas; сумма сделки может достичь $2,9 млрд, включая $1,4 млрд условных выплат. Taalas закладывает веса нейросети прямо в структуру чипа, объединяя хранение параметров и вычисления на одном кристалле. Это позволяет обойтись без традиционной высокоскоростной памяти и сложного корпусирования. В феврале стартап представил процессор HC1 со встроенной моделью Llama 3.1 8B. По его замерам, чип генерировал около 17 000 токенов/с — почти в 9 раз быстрее Cerebras на тот момент. Смена модели требует изготовления нового чипа примерно за 2 месяца. AMD намерена использовать технологию в дополнение к GPU Instinct, а также EPYC, ROCm и Helios.
Источники 1