Совет Нью-Йорка рассмотрит запрет запускать ИИ без внешней проверки и обязательные «выключатели»; в понедельник выступят бывшие сотрудники Anthropic, OpenAI и Google DeepMind

Город пытается поставить на ИИ внешнюю проверку и рубильник — если их введут, модели придётся доказывать право на запуск до выхода, а не после.

Слушание в Городском совете Нью-Йорка назначено на понедельник по просьбе спикера Джулии Менин. По сообщению Bloomberg, там выступит Джейкоб Коксон, ушедший из Anthropic в прошлом месяце с предупреждением, что создатели ИИ «искренне верят, что он может убить нас всех к концу десятилетия»; также свидетельствуют Алекс Тёрнер (экс-DeepMind) и Дэниел Кокотайло (экс-OpenAI), а Anthropic, OpenAI, Google и Meta пришлют представителей — часть согласилась после угрозы повесток. По данным Gothamist, в пакете законопроектов — запрет запускать ИИ без проверки третьей стороной и обязательные управляемые людьми «выключатели», а также награды для информаторов, право частных исков за «джейлбрейки» и 24-часовая отчётность об инцидентах для подрядчиков города.