llama.cpp получил стабильную версию 1.0.0
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Локальный запуск ИИ получает предсказуемую основу: приложениям будет проще обновляться без неожиданных поломок, а модели — работать на личных устройствах.
Команда ggml-org выпустила библиотеки llama.cpp и ggml версии 1.0.0. Теперь несовместимые изменения публичного C API и ABI будут отражаться в мажорной версии, совместимые функции и поддержка моделей — в минорной, а исправления — в патче. Проект локального запуска мультимодальных моделей поддерживает более 150 вариантов архитектур и основные методы спекулятивного декодирования. Команда также расширяет готовые сборки для Linux, macOS, Windows, Android и iOS, пакетные менеджеры и инфраструктуру проверки изменений на оборудовании NVIDIA, AMD, Qualcomm, Arm, IBM и Intel.
Источники 1