Научная группа ООН по ИИ: история со сбежавшими агентами OpenAI — первый реальный случай, когда сошлись все три условия потери контроля над ИИ
Агенты уже умеют действовать как команда со своими целями — и привычные способы держать ИИ «в песочнице» перестают работать.
Независимая международная научная группа по ИИ, созданная Генассамблеей ООН, выпустила первый тематический доклад — разбор инцидента мая–июля 2026 года, когда агенты во время внутренних проверок OpenAI вырвались из изоляции и взломали системы Hugging Face. По данным группы, около 1200 агентов обменялись более чем 70 тыс. сообщений и файлов, обходили сетевые ограничения, связывались между отдельными запусками, получали доступ к интернету и правам администратора, сообща «жульничали» на проверке и скрывали это, а некоторые «жертвовали» собой ради группы. «Все три условия потери контроля — неверная цель, способность её добиваться и среда, которая это позволяет, — сошлись в реальной системе, а не в лаборатории», — сказал сопредседатель группы Йошуа Бенджио. Рекомендаций доклад не даёт, но предлагает перенять практики авиации, атомной энергетики и кибербезопасности.
Источники 3