Nvidia выпустила открытые модели Nemotron 3.5: Super VL на 120 млрд параметров и локальную Bolt для видеокарты на 24 ГБ
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
У локальных ИИ-агентов появился открытый вариант, который помещается в обычную мощную видеокарту, и для работы ему не нужно облако.
По данным блога Nvidia, Nemotron 3.5 Super VL — открытая мультимодальная модель на 120 млрд параметров для агентов; по заявлению компании, она сопоставима по точности с крупнейшей рассуждающей моделью Nvidia при примерно пятикратно меньшем размере и работает в пять раз быстрее ближайшей открытой модели своего класса. Организации могут дообучать её на своих данных и запускать на своей инфраструктуре. Модель Bolt 74B-A9B 24GB рассчитана на локальный запуск на RTX и DGX Spark: двухбитное квантование позволяет уместить её в 24 ГБ; по данным Nvidia, это первая открытая модель своего класса в тесте PinchBench и вторая в BrowseComp. Super VL и Bolt 74B-A9B доступны сейчас, малая Bolt E4B (4 ГБ) — с 23 октября. Все сравнения — собственные данные Nvidia.
Источники 1