Wired нашла сеть из более чем 400 приложений со скрытыми функциями сексуальных дипфейков
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Проверка магазина приложений не гарантирует безопасность, если сервер может после одобрения заменить безобидный интерфейс на генератор несогласованных интимных изображений.
Расследование Wired связало сотни доменов и приложений, которые выдают себя за редакторы фотографий питомцев, языковые курсы или фитнес-тренеров. Сервер выбирал, показать ли пользователю заявленный интерфейс или скрытую веб-страницу генерации откровенных изображений и видео по загруженным фотографиям; одним из триггеров был переход по связанной рекламе Meta. Сеть продвигалась через тысячи объявлений в Facebook и Instagram и принимала платежи через Apple и Google Pay. По оценке исследователей AI Forensics, оператор выпускал приложения около года, временами десятками в неделю. Wired связывает их с китайскоязычными разработчиками и зарегистрированной в Гонконге KeLing Technology Limited по анализу доменов и работы сервисов. Исследователи ранее находили среди рекламы и материалы сексуального насилия с изображениями детей, созданные ИИ.
Источники 1