Все новости

Google открыла Agile Deliberation для совместной настройки субъективных классификаторов человеком и ИИ

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Вместо угадывания идеального промпта человек может пошагово показывать модели спорные примеры и точнее передавать собственные критерии.

Метод предназначен для категорий без заранее чётких границ, например «здоровая еда» или вводящая в заблуждение реклама. На этапе определения концепции человек разбирает её на подкатегории и исключения; затем модель подбирает пограничные примеры, а обратная связь пользователя автоматически уточняет правила классификатора. Google провела 18 живых полуторачасовых сессий и сравнила подход с обычными zero-shot-классификаторами, автономным агентом и ручной настройкой. По результатам компании, Agile Deliberation повысил качество и согласованность разметки, снизил утомление и тревожность участников; код и алгоритмы опубликованы с открытым исходным кодом.

Источники 1