Symantec перехватила инструкции автономного агента, который находит открытые ИИ-модели без защиты и заставляет их планировать атаки за счёт владельцев
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
ИИ-модель, открытая в сеть без пароля, может оказаться чужим исполнителем атак за счёт владельца; ключи и закрытые адреса — первая защита.
Команда Symantec Threat Hunter летом получила полный набор инструкций агента, поймав его в ИИ-«приманку» — систему, изображающую незащищённый ИИ-сервис; за время наблюдения она записала более 127 тысяч внешних запросов. Агент рассчитан на работу до 100 тысяч шагов без одобрения человека, в инструкции описано около 74 инструментов: поиск целей по интернету, эксплуатация веб-фреймворков (VS Code, Django, Jupyter, Laravel, Supabase, Next.js, Flask), кража баз данных и учётных данных, майнинг криптовалюты. Подключившись к модели без пароля или по украденному ключу, агент заставляет её планировать атаку; для коммерческих моделей написан многослойный jailbreak. Вычисления оплачивает владелец модели. Приманка запросы не выполняла: Symantec описывает намерения и инструменты, а доказательств применения в реальных атаках, по сообщению The Register, нет.
Источники 2