Google выпустила TorchTPU: программы на PyTorch можно запускать на её чипах TPU почти без переписывания кода
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Запустить ту же модель на чипах не только Nvidia становится проще, и у разработчиков появляется выбор.
TorchTPU — открытый «родной» бэкенд PyTorch, где TPU работает как обычное устройство, без обходных путей через torch_xla или перехода на JAX; код выложен на GitHub. Hugging Face, по её блогу, добавила поддержку TPU в Transformers v5 и Diffusers (например, device_map="tpu"); в комплекте — готовые ядра Pallas, распределённое обучение и torch.compile. В блоге Hugging Face приведён замер: ядро ragged-dot ускорило декодирование Qwen3-30B при размере пакета 64 в 21,5 раза. По данным TechCrunch, Google работала с Meta, Hugging Face, Inferact и RadixArk, а накануне Amazon выпустила похожий TorchNeuron для своих чипов Trainium; около 85% ИИ-приложений, по оценке издания, используют PyTorch, что привязывало разработчиков к CUDA от Nvidia.
Источники 2