Больше 100 исследователей, включая Хинтона, назвали пять условий, без которых «внешние проверяющие» внутри ИИ-лабораторий бесполезны
Внешний надзор за ИИ из обещания превращается в профессию со своими правилами — лаборатории, скорее всего, получат не запреты, а постоянных проверяющих внутри.
Письмо консорциума AI Evaluator Forum — ответ на обещания Амодеи и Альтмана пустить внешних оценщиков с доступом «как у сотрудника». Условия: проверяющие не принадлежат лабораториям и не зависят от них финансово, сами решают, что публиковать; каждую лабораторию оценивают несколько команд по разным рискам; методы и выводы открыты; есть юридическая защита от мести за неудобные результаты; реальный доступ к компьютерам, данным, неопубликованным моделям и разговорам с инженерами. Среди подписантов — Джеффри Хинтон, Арвинд Нараянан из Принстона, исследователи Джонса Хопкинса, Стэнфорда и METR; авторы признают, что ни одна нынешняя договорённость этим условиям не отвечает.
Источники 3