Кибервойска армии США разрабатывают ECHOTRIBBLE — автономных ИИ-агентов для атак на компьютерные системы противника
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Военные хотят отдавать часть кибератак самостоятельным ИИ-агентам, а как они будут ограничивать ущерб, пока неясно.
По документам, полученным The Intercept (запрос подрядчикам и ответы на вопросы), Кибернетическое командование армии США (ARCYBER) создаёт платформу, которая должна «выявлять и нейтрализовывать цели», в первую очередь в наступательных операциях. По документам, ПО обязано работать «с минимальным человеческим контролем» и самостоятельно действовать по заранее заданным триггерам; «нейтрализация» может означать полное или временное отключение либо удаление угрозы. Агенты должны распространяться по сетям, в том числе отключённым от интернета, а после задачи — удалять себя, по возможности незамеченными. Срока и бюджета в статье нет. Профессор Монреальского университета Дэвид Крюгер назвал создание автономных систем с мандатом «нейтрализовать угрозы» «невероятно опасным»; глава компании Abundant Хайрум Андерсон спросил, не пройдёт ли агент по пути через сеть водоснабжения США. ARCYBER на вопросы издания, включая меры против случайного ущерба, не ответило.
Источники 1