Детекторы ИИ меняют поведение писателей, но продолжают ошибаться
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Проверка на ИИ уже влияет на работу авторов и редакторов, поэтому её результат нельзя превращать в обвинение без независимой проверки человеком.
NPR описывает, как проверки на машинный текст влияют на найм и редакционную работу. Писательница Салли Макгроу после ложного, по её словам, срабатывания начала избегать привычных слов, конструкций и пунктуации, чтобы текст не выглядел сгенерированным. Издатель Clarkesworld Нил Кларк сообщил, что поток рукописей вырос примерно с 1100 в месяц в 2021 году до удвоенного уровня к февралю 2023-го, а его собственная нагрузка увеличилась примерно на 30%. В июньском исследовании International Journal for Educational Integrity четыре детектора проверяли на 160 научных текстах: человеческих, машинных, смешанных и переписанных человеком после модели. Pangram стабильнее остальных распознал ИИ в 37 из 40 смешанных и в 37 из 40 переписанных работ, но даже его разработчик признаёт возможность ошибок. Профессор Пенсильванского университета Крис Каллисон-Бёрч отмечает, что детекторы оценивают предсказуемость текста и потому могут ошибочно помечать знакомые модели публикации или обычные особенности человеческого стиля. Authors Guild предупреждает, что ложное обвинение способно стоить автору контракта и репутации, а пропуск машинного текста — доверия читателей.
Источники 1