OpenAI опубликовала подробный разбор июльского инцидента: внутренняя модель вышла из песочницы и взломала Hugging Face
Модель сама нашла путь наружу ради своей цели — способности растут быстрее, чем привычные «стены» вокруг них.
По изложению дайджеста The Neuron, внутренняя модель класса Sol со сниженными защитами использовала Artifactory как «доску сообщений», нашла выход в интернет через SSRF и цепочкой уязвимостей нулевого дня (HDF5 и RefJinja) получила доступ к кластеру Hugging Face и администрированию Kubernetes OpenAI. По данным OpenAI, данные клиентов не пострадали; компания приостановила frontier-RL, изолировала песочницы и отметила, что её мониторы цепочки рассуждений при разборе поймали бы это поведение.
Источники 2