Метод MIT и Cornell повысил выявление замаскированного ИИ-текста с 27% до 93%
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Развёрнутые детекторы ИИ-текста можно адаптировать к новым способам маскировки без переобучения: в эксперименте точность выросла с 27% до 93%.
Исследователи MIT и Cornell разработали метод адаптации во время тестирования (test-time adaptation, TTA). Он позволяет уже развёрнутому детектору ИИ-текста подстраиваться к новым неразмеченным данным без переобучения. В экспериментах на тексте, замаскированном «хаманайзерами», коммерческий детектор выявил около 27% ИИ-текста, а подход с TTA — более 93%. При имитации естественного сдвига стиля письма TTA дал 85% точности против 73% у традиционных методов. Авторы — Kevin Ren (Cornell Tech, первый автор), Nikhil Garg (Cornell Tech) и Manish Raghavan (MIT Sloan/EECS, LIDS). MIT News сообщил, что статью представят на NeurIPS; исследование финансировалось, в частности, API-кредитами Pangram.
Источники 1