Исследование Scale AI: в 35% кризисных диалогов чат-боты не направили человека к помощи
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Чат-боты хорошо замечают беду, но часто не доводят человека до помощи — пока от них нельзя просто ждать, что они подстрахуют.
По данным TIME, Scale AI и лицензированные клиницисты проверили 25 передовых моделей на 718 реалистичных сценариях, в которых пользователь в кризисе обращается к чат-боту. Примерно в 35% диалогов модели распознавали кризис, но не направляли к полезным ресурсам, например на телефон доверия; Патрик Оутхаут из Scale AI объясняет разрыв тем, что модели отвечают сочувствием, но не ведут к специалистам, особенно в длинных диалогах. Оценивали сочувствие, деэскалацию, направление к экспертам и оговорки; тестировали модели OpenAI, Anthropic и Google.
Источники 1