Baseten, Hugging Face и Goodfire объединились, чтобы открытые модели нельзя было так легко «разлочить»
Сообщество открытых моделей само ищет, как оставаться открытым и при этом безопасным, — это лучший аргумент против запретов на открытые веса.
Исследовательское подразделение Baseten — Base Labs — объявило на TechCrunch Disrupt стандарт безопасности для открытых моделей: методы обучения и мониторинга будет разрабатывать Base Labs, Goodfire добавит интерпретируемость, чтобы защита была «вшита» в архитектуру, а Hugging Face — площадку для распространения. Повод — техника abliteration, которой из открытых моделей вырезают защитные ограничения: на Hugging Face уже больше 6 тысяч таких «разлоченных» моделей.
Источники 1