Все новости

Комитет Палаты общин Великобритании предложил дать регулятору право останавливать ИИ-модели

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Предложенные полномочия позволяют британскому регулятору остановить обучение или запуск модели до её попадания к пользователям.

Комитет Палаты общин Великобритании по бизнесу, инновациям, науке и торговле предложил принять новый Закон о безопасности и защите ИИ (AI Safety and Protection Act). В опубликованном 18 ноября докладе «Guardrails for Growth: Making AI Safe» потенциальный прирост экономики страны оценён до £400 млрд за 10 лет. Независимый регулятор должен получить полномочия останавливать обучение и тестирование систем высокого риска, блокировать их развёртывание и приостанавливать сервисы, если риски не устраняются. Это вмешательство до попадания модели к пользователям, поскольку некоторые системы после запуска нельзя надёжно отозвать. Комитет предлагает разделить функции: Институт безопасности ИИ (AISI) продолжит тестирование, а правоприменение перейдёт отдельному регулятору. Доклад предусматривает обязательные отчёты об инцидентах, доступ независимых оценщиков к моделям и защиту информаторов; существенные изменения возможностей или защитных механизмов должны запускать повторную проверку. Выводы основаны на показаниях исследователей, бывших сотрудников ИИ-компаний и представителей OpenAI, Google DeepMind, Anthropic и Meta. Все четыре компании заявили, что не выпустят небезопасные модели, но применяют разные критерии безопасности; законодательство Великобритании обычно не требует независимой оценки перед релизом.

История

Обязательное регулирование передового ИИ в Британии

3 события
  1. Комитет Палаты общин Великобритании предложил дать регулятору право останавливать ИИ-моделиОткрыто сейчас
  2. OpenAI и Anthropic заявили парламентскому комитету Британии, что добровольных обязательств мало; DeepMind и Meta закон не поддержали
  3. OpenAI впервые поддержала обязательный закон о передовом ИИ в Великобритании