Nvidia открыла код платформы Run:ai для распределения графических процессоров между ИИ-задачами
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Инструмент, которым крупные компании делят дорогие видеокарты между ИИ-задачами, теперь может использовать и менять любой желающий.
Nvidia выложила в открытый доступ платформу Run:ai целиком и четыре независимых компонента; планировщик KAI Scheduler под лицензией Apache 2.0 передан в песочницу фонда CNCF. Платформа умеет группировать задачи для одновременного запуска, делить квоты поровну, учитывать топологию кластера и позволять нескольким задачам делить один процессор с жёсткой изоляцией памяти. Код основной платформы размещён в организации Nvidia DSX AI Factory на GitHub.
Источники 1