Абу-Даби выложил K2 Horizon — шесть полностью открытых моделей, от часов до серверов
Полностью открытая модель — это не только скачать и запустить, но и повторить обучение с нуля. Чем больше таких «рецептов» в открытом доступе, тем меньше передовой ИИ зависит от горстки закрытых лабораторий.
Институт фундаментальных моделей (IFM), созданный университетом MBZUAI, выпустил линейку из шести моделей от 0,9 до 375 млрд параметров: самые маленькие рассчитаны на часы и очки, 3,7B и 7B — на телефоны, 32B и разреженная 36B-A4B — на локальные серверы, 375B-A23B — на корпоративные задачи. Открыто всё: веса и код под Apache 2.0, промежуточные чекпойнты, конфигурации и логи обучения, а также обучающие данные там, где это позволяют лицензии. По заявлению IFM, модели 0,9B, 3,7B и 7B устанавливают новый рекорд в своих размерах.
Источники 2