Anthropic представила FlashProve для криптографической проверки модели, создавшей ответ
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Криптографическое подтверждение инференса может сделать выбор и оплату модели проверяемыми, не требуя от лаборатории раскрывать её веса.
Система доказуемого инференса должна подтверждать, что конкретный ответ получен именно от заявленной модели. Для этого лаборатория публикует цифровой «отпечаток» модели, который сопоставляется с результатом и проверяется криптографически, не раскрывая веса. Так пользователь сможет обнаружить скрытую замену модели на более дешёвую, а сторонний разработчик — доказать, что работу действительно выполнила указанная система. Проверка рассчитана на локальное устройство. Anthropic опубликовала техническую спецификацию и открытый код отдельных компонентов, подчёркивая, что это промежуточный исследовательский результат, а не завершённый продукт.
Источники 1