Google выпустила два новых TPU: TPU 8tx, разработанный с AMD для конфиденциальных вычислений, и TPU 8i Max с удвоенной памятью
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Акселераторы для ИИ начинают специализироваться: вместо одной универсальной микросхемы появляются варианты под защиту данных во время работы и под огромные контексты, что делает альтернативу GPU практичнее.
Google расширила восьмое поколение своих тензорных процессоров двумя вариантами. TPU 8tx создан на том же кремнии, что и TPU 8t, но с хостами на процессорах AMD EPYC пятого поколения: он предназначен для обучения и работы моделей на конфиденциальных данных и защищает данные и веса моделей на аппаратном уровне, пока они используются, а также позволяет дообучать небольшие модели, не вывозя данные с устройства. TPU 8i Max объединяет два инференс-чипа TPU 8i в одном корпусе, удваивая вычисления, SRAM и пропускную способность памяти и вмещая вдвое больше кремния в той же стойке. Это уже четвёртая система TPU за год, говорит Google, а число заказчиков TPU приближается к сотне, включая передовые лаборатории и трейдинговые фирмы. Характеристики — из заявлений Google.
Источники 2