Anthropic перепишет часть утёкшего проекта закона о безопасности передовых ИИ-моделей после критики
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Правила для самых мощных ИИ-моделей пока пишутся в споре, и даже сама компания признаёт, что первый вариант был неточным.
Как пишет The Next Web, по черновику правительство могло бы блокировать выпуск модели лишь в узких случаях: предсказуемый неминуемый риск ущерба от $1 млрд или 50 и более погибших и пострадавших (биооружие, «побег» модели, кибератаки). Независимые оценщики должны были регистрироваться в Министерстве торговли и сообщать о рисках в течение 72 часов, а часть законов штатов проект вытеснял бы. Критику высказали сторонники безопасности ИИ, сенатор Калифорнии Скотт Винер и бывший советник Белого дома Дэвид Сакс; по их оценке, проект слабее двухпартийного FRONTIER Act. Руководитель направления по связям с федеральной властью в Anthropic Энтони Чимино заявил, что формулировка о вытеснении законов штатов «недостаточно точна» и будет обновлена; компания также обещала пересмотреть пороги риска и требования к оценщикам.
Источники 2