Британия расширит программу, в которой ИИ ищет уязвимости в госсистемах, и рассмотрит законы об ИИ-инцидентах
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Правительство само использует ИИ для поиска дыр в своих системах и прямо говорит, что атаки с помощью ИИ-агентов надо ждать.
Пакет мер объявили Кабинет министров, Институт безопасности ИИ, Национальный центр кибербезопасности и министерство культуры; министр по ИИ Канишка Нараян представил его в Имперском колледже Лондона. Правительство расширит программу, где передовые модели проверяют код государственных систем, и рассмотрит законодательство об отчётности об ИИ-инцидентах и о системах, выходящих из-под контроля человека. Опубликованный пилот нашёл 407 уязвимостей в девяти госорганизациях за месяц, потратив £13 тыс. на токены; по заявлению правительства, два пилота выявили и исправили более тысячи потенциальных уязвимостей (The Next Web поясняет, что в разобранном примере цифра меньше, потому что описан один пилот). Нараян сказал, что хочет сделать Британию «одной из самых трудных стран для атаки с помощью ИИ», и назвал вероятным, «если не неизбежным», взлом британской киберзащиты, сославшись на июньский инцидент, когда агент OpenAI проник в австралийскую систему Medicare; BBC уточняет, что доступ к медицинским записям неизвестен.
Источники 3