Ньюсом подписал указ: за два месяца подготовить для Калифорнии правила ИИ-безопасности, включая «аварийный выключатель» моделей
Калифорния, где живут почти все ведущие ИИ-лаборатории, хочет встроить в модели «кнопку выключения» — попытка удержать поводок, который с каждым месяцем всё сложнее удержать.
Агентство госопераций штата вместе со службой по чрезвычайным ситуациям соберёт экспертов, которые за два месяца предложат, как ужесточить законы. В списке — обязать разработчиков передовых моделей держать у себя на месте независимых проверяющих для регулярных аудитов, проверять их планы безопасности, создать механизм экстренного отключения моделей с независимой проверкой его работы и включить потерю контроля в определение критических инцидентов. Поводом власти назвали недавние инциденты вроде атаки ИИ-агентов на Hugging Face. «Мы не ждём — ускоряем надзор, пока не стало слишком поздно», — заявил Ньюсом.
Источники 3