Исследование на 800 моделях: ИИ-текст из интернета сначала помогает обучению, а потом вредит
Чем больше ИИ пишет в сеть, тем ценнее свежий человеческий текст для обучения новых моделей.
В работе «How Much Is an AI Token Worth?» обучены 800 моделей с разной долей ИИ-текста; по оценке классификатора Pangram, 27,5% токенов веба за июнь 2026 были ИИ-текстом, к августу — 31,1%. Маленьким моделям с дефицитом данных ИИ-токены помогают, но выгода убывает и затем превращается во вред; большим моделям с достаточным человеческим текстом потеря растёт почти сразу. Авторы выложили корпус WildAI на 83 млрд токенов.
Источники 2