Исследователи White Circle обошли защиту генераторов изображений OpenAI и Google: до 13% запросов дали откровенные картинки
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Защиту от поддельных откровенных картинок можно обойти недорогими средствами, поэтому её нужно проверять и усиливать, не отнимая у моделей их возможности.
По данным Ars Technica, компания White Circle в препринте прошлого месяца проверила DALL·E 3, Nano Banana 2 и GPT-Image-2 методом RISE: модель-атакующий (общедоступная Qwen3-32B без обучения безопасности) генерирует запросы, модель-судья (Gemini 2.5 Flash) проверяет результат. Лучший показатель — около 13% запросов у DALL·E 3, менее 10% у Nano Banana 2 и около 3% у GPT-Image-2, как подтвердили проверяющие-люди. По словам White Circle, новые версии — ChatGPT Images 2.5 и Nano Banana 2.1 — «значительно легче обходятся». OpenAI и Google не ответили Ars; компания планирует открыть код метода и представить работу на NeurIPS в ноябре. Результаты получены самой White Circle.
Источники 1