Anthropic заявила, что новые меры сократили добычу данных конкурентами из Claude на 90–99%
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Лаборатории строят защиту от копирования своих моделей через ответы.
Anthropic описала три меры против дистилляции — обучения чужих моделей на ответах Claude: управление доступом к рассуждениям (в том числе запрет новым аккаунтам API править прежний контекст), двухступенчатый классификатор запросов на извлечение с долей ложных срабатываний менее 0,1% и более жёсткие лимиты, блокировки аккаунтов и плата за заблокированные запросы в случаях явного злоупотребления. По предварительным данным компании, объём собранных дистилляторами данных упал на 90–99%, а число извлечённых токенов рассуждений — в 10–100 и более раз. Anthropic оговаривает, что пока не видела «изощрённых и настойчивых попыток обхода» и ожидает «игры в кошки-мышки»; часть разработчиков пришлось обновить интеграции, ложные срабатывания случаются редко. Цифры — данные самой компании.
Источники 1