Anthropic передала законодателям США проект закона о безопасности передовых ИИ-моделей
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Одна из ведущих лабораторий сама предлагает правила, когда государство вправе остановить модель, но это пока только проект, переданный законодателям.
По сообщению Politico (статья закрыта, детали — в пересказе Cryptobriefing), Anthropic передала членам Конгресса неопубликованный проект федерального закона о безопасности передовых ИИ-моделей. По данным Cryptobriefing, государство могло бы вмешиваться только при предвидимом неминуемом риске ущерба свыше $1 млрд или гибели либо тяжёлых травм более чем у 50 человек, причём опасность должна исходить от биологического оружия, потери разработчиком контроля над моделью или кибератаки; Министерство торговли получило бы право просить суд остановить модель. По описанию ленты Politico, проект сузил бы случаи, когда власти вправе блокировать выпуск модели, и вытеснил бы часть законов штатов о безопасности ИИ. Позиции законодателей и критиков в доступных материалах не приведены.
Источники 2