PrismML сжала 27-миллиардную модель до 5,9 ГБ почти без потери качества — чтобы ИИ работал прямо на ноутбуке
Сильный ИИ, который работает на твоём компьютере без интернета и подписки, — это шаг к бесплатному интеллекту для всех.
Стартап основателей из Caltech во главе с профессором Бабаком Хассиби выпустил Bonsai 2 27B — «тернарную» версию Qwen3.8 27B, где каждый вес вместо 16 бит принимает одно из трёх значений: +1, −1 или 0. Модель в 9–10 раз меньше оригинала и сохраняет около 98% его результатов на бенчмарках (в мартовской версии было 95%). Компания привлекла $22,25 млн от Khosla Ventures и других и обещает в ближайшие месяцы модели на сотни миллиардов параметров.
Источники 1