«Базис» представил Basis Air для совместного использования GPU разными командами
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Организации смогут выполнять больше ИИ-задач на уже купленных ускорителях вместо простоя закреплённых за разными командами GPU.
Платформа распределяет общий парк ускорителей по приоритетам и квотам подразделений, а свободные мощности отдаёт задачам сверх квоты. Она управляет кластерами на разных площадках, поддерживает выделение GPU целиком, разделение вычислений и видеопамяти между задачами и MIG-профили. Для обучения, инференса и сред Jupyter и VS Code предусмотрены Kubeflow, MLflow и разные хранилища. По оценке разработчика, загрузку GPU можно поднять с 30% до 80%, а подготовку рабочей среды сократить с месяца до одного-двух часов. Basis Air работает в собственном ЦОДе заказчика, включая изолированный контур, и не требует остальных продуктов «Базиса». Компания сообщает, что около 80% кода платформы — собственная разработка.
Источники 1