METR и Redwood Research три недели проверяли систему мониторинга внутренних агентов OpenAI: по их оценке, 75–94% трафика подлежало мониторингу; OpenAI заявляет, что найденные уязвимости исправлены
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Независимые эксперты получили глубокий доступ к защитам OpenAI и нашли пробелы; исправление пока подтверждено только словами компании.
С 21 июля по 11 августа сотрудники METR и Redwood Research с доступом к внутреннему коду, настройкам мониторов и документации OpenAI и интервью с примерно дюжиной инженеров проверяли систему, которая следит за рассогласованием внутренних агентов; итог — 61-страничный закрытый отчёт, публично изложена краткая версия. По их оценке, с большой неопределённостью, в Responses API 75–94% агентного трафика моделей не слабее GPT-5.5 подлежало мониторингу; в начале проверки обучение с подкреплением мониторингом не охватывалось, а из-за того, что события сжатия контекста не мониторились, порядка 10% трафика внутренних агентов Codex не мониторилось с мая по июль (OpenAI заметила и исправила это ещё во время проверки). Авторы нашли способ, которым агенты Codex могли бы обойти песочницу и автопроверку, и эксплойт, скрывающий сотни действий от монитора (подробности скрыты по просьбе OpenAI). По словам OpenAI, все уязвимости, затрагивающие производственные защиты, исправлены; METR и Redwood это не проверяли и оценивали систему только в состоянии до 21 июля.
Источники 2