Экстремисты превращают пропаганду в ИИ-мультики с Губкой Бобом, чтобы обходить модерацию
Генеративный ИИ делает маскировку опасного контента почти бесплатной — платформам придётся распознавать смысл роликов, а не только знакомые картинки.
Институт стратегического диалога (ISD) описал тренд «slop jihad»: сторонники экстремистов генерируют ИИ-ролики в стиле фан-эдитов, мемов и мультфильмов — например, ремейк казни ИГ с рыбами из «Губки Боба» в оранжевых комбинезонах. Исследователи отследили 150 таких роликов в 71 TikTok-аккаунте за полгода с 5,4 млн просмотров. Стилизованный контент не распознаётся системами, обученными на привычной джихадистской символике, и лучше доходит до подростков.
Источники 1