Все новости

Thinking Machines выпустила открытую модель Inkling 2 Mini с контекстом до 1 млн токенов

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Чекпойнт весом около 20 ГБ запускается на Mac с 32 ГБ памяти через Ollama, поэтому модель на 26,4 млрд параметров можно держать локально.

Thinking Machines Lab 20 ноября выпустила Inkling 2 Mini — открытую мультимодальную модель со смесью экспертов (MoE). Архитектура — циклический трансформер: из 24 слоёв средние 12 прогоняются трижды. Поэтому при 26,4 млрд общих и 3,4 млрд активных параметров модель выполняет 5,4 млрд весовых активаций на токен. Контекст — до 1 млн токенов, вес чекпойнта около 20 ГБ, лицензия Apache 2.0. Модель запускается на Mac с 32 ГБ оперативной памяти через Ollama и поддерживает GGUF, MLX и работу в SGLang с первого дня. Веса выложены на Hugging Face вместе с исследовательским вариантом TML-d24-varloop-research. По данным лаборатории, модель лидирует среди открытых моделей с менее чем 100 млрд параметров на DeepSWE v1.1 (48,2%) и Vals Index v2.2 (46,5%). На SWE-bench Verified она набирает 79,2%.

История

Выпуск моделей Thinking Machines Inkling 2

2 события
    1. Thinking Machines выпустила открытую модель Inkling 2 Mini с контекстом до 1 млн токеновОткрыто сейчас
    1. Thinking Machines выпустила Inkling 2 Small с 594 млрд параметров и обещала открыть веса