Amazon открыла TorchNeuron: код на PyTorch запускается на чипах Trainium почти без переписывания
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Обучать модели на чипах Amazon становится проще: не нужно переписывать программу, а значит, у разработчиков больше выбора, чем одна Nvidia.
TorchNeuron — бэкенд PyTorch для чипов AWS Trainium2 и Trainium3 под лицензией Apache 2.0. По заявлению Amazon, для переноса достаточно «одного изменения конфигурации»: в демонстрации один и тот же обучающий скрипт работал на обычных чипах и на Trainium с разницей лишь в указании оборудования. Совместим с TorchTitan и FSDP (распределённое обучение), с имеющимися средствами тестирования и отладки PyTorch. Компания называет среди первых пользователей Cartesia и Институт мозга Либера; публикация на GitHub заявлена на 20 октября, на конференции PyTorch.
Источники 1