Intel показала ИИ-ускоритель GPU D-series с 480 ГБ памяти LPDDR5X для запуска моделей до 300 млрд параметров на одной карте
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Выбор дешёвой и объёмной памяти нацелен на то, чтобы большие модели помещались на одну карту.
Ускоритель, ранее известный как Crescent Island, показан на саммите Open Compute Project. По заявлению Intel, одна карта справится с моделями до 300 млрд параметров, а восемь — с моделями больше триллиона. Вместо HBM использована память LPDDR5X; заявлены 1,3 петафлопса в FP8, пропускная способность памяти 1,5 ТБ/с и энергопотребление до 350 Вт. Карта выполнена в формате PCIe с воздушным охлаждением. Цена и сроки продаж не объявлены, а скорость ответов определяют не только объём памяти, но и вычислительные блоки и ПО.
Источники 1