Все новости

Тесты textGrain показали, что текстовые водяные знаки OpenAI слабеют после редактирования

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Маркировка ИИ-текста возможна, но короткие или отредактированные фрагменты нельзя надёжно проверить одним водяным знаком — прозрачности нужны несколько независимых методов.

TextGrain изменяет статистику выбора токенов с помощью секретного ключа и использует энтропию как бюджет, позволяя регулировать компромисс между заметностью водяного знака и разнообразием текста. В собственных оценках OpenAI детектор находил знак примерно в 80% фрагментов длиной 200 токенов и в 95% фрагментов по 400 токенов. Замена 10% слов синонимами в тексте из 400 токенов снизила обнаружение с 92% до 66%, замена 25% — до 17%; расчётный уровень ложных срабатываний составляет 1%. Статья 50 европейского AI Act требует машиночитаемой маркировки синтетических текстов, но не задаёт числовой порог устойчивости. Добровольный кодекс практики не требует водяных знаков для фрагментов короче 200 токенов. Собеседники IEEE считают раннюю методику перспективной, но независимые исследователи только получают доступ к проверке, а OpenAI подчёркивает, что водяные знаки должны дополнять другие средства подтверждения происхождения контента.

Источники 1

История

Водяные знаки OpenAI textGrain и правила ЕС

2 события
  1. Тесты textGrain показали, что текстовые водяные знаки OpenAI слабеют после редактированияОткрыто сейчас
  2. OpenAI добавит невидимые водяные знаки в тексты ChatGPT и Codex для пользователей в Евросоюзе