METR опубликовала пять материалов о независимой проверке риска потери контроля над ИИ у лабораторий
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Независимые проверяющие предлагают, как публике узнавать о риске потери контроля над ИИ, но компании пока ничего не приняли.
METR, собирающая доказательства о том, смогут ли люди потерять контроль над ИИ-агентами в больших масштабах, описала, как работает с ИИ-компаниями: цель — давать публике точные, своевременные и независимые данные; основной метод — собирать и публиковать доказательства, а также комментировать неопубликованные чувствительные сведения и рецензировать отчёты о рисках. Одновременно METR выложила предложения по оценкам: как проверить контроль и мониторинг внутренних ИИ-агентов, согласованность ещё не выпущенных моделей и признаки ускорения от автоматизации ИИ-исследований, а также как информировать публику о рисках потери контроля. Это предложения организации, а не принятые решения компаний.