Anthropic в письме губернатору Калифорнии предложила разрешить властям требовать через суд блокировки моделей с «серьёзным риском»
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Anthropic предлагает регулировать опасные модели через суд и точечные отключения, а не через общий «рубильник».
По письму от 15 октября, о котором 28 октября сообщило Reuters, Anthropic написала губернатору Калифорнии Гэвину Ньюсому: «когда проверка показывает, что модель создаёт серьёзный риск, правительство должно иметь возможность обратиться в суд, чтобы её заблокировать». Требование встраивать «рубильники», способные отключить модель целиком, по мнению компании, может дать чиновникам «ложное чувство уверенности»; Anthropic поддерживает более точечные меры — отключение проблемного агента или доступа отдельного клиента. Рекомендации направлены после того, как губернатор в сентябре собрал группу экспертов по ИИ для выработки требований безопасности; OpenAI направила свои рекомендации 20 октября. Reuters напоминает, что администрация Трампа в июне приказывала Anthropic ограничить иностранный доступ к её моделям Mythos 5 и Fable 5, позже Минторг отменил приказ.
Источники 1