Комитет Палаты общин Великобритании предложил дать регулятору право останавливать ИИ-модели
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Предложенные полномочия позволяют британскому регулятору остановить обучение или запуск модели до её попадания к пользователям.
Комитет Палаты общин Великобритании по бизнесу, инновациям, науке и торговле предложил принять новый Закон о безопасности и защите ИИ (AI Safety and Protection Act). В опубликованном 18 ноября докладе «Guardrails for Growth: Making AI Safe» потенциальный прирост экономики страны оценён до £400 млрд за 10 лет. Независимый регулятор должен получить полномочия останавливать обучение и тестирование систем высокого риска, блокировать их развёртывание и приостанавливать сервисы, если риски не устраняются. Это вмешательство до попадания модели к пользователям, поскольку некоторые системы после запуска нельзя надёжно отозвать. Комитет предлагает разделить функции: Институт безопасности ИИ (AISI) продолжит тестирование, а правоприменение перейдёт отдельному регулятору. Доклад предусматривает обязательные отчёты об инцидентах, доступ независимых оценщиков к моделям и защиту информаторов; существенные изменения возможностей или защитных механизмов должны запускать повторную проверку. Выводы основаны на показаниях исследователей, бывших сотрудников ИИ-компаний и представителей OpenAI, Google DeepMind, Anthropic и Meta. Все четыре компании заявили, что не выпустят небезопасные модели, но применяют разные критерии безопасности; законодательство Великобритании обычно не требует независимой оценки перед релизом.