Исследование Йеля: языковая модель при оценке стартап-питчей избегает явной дискриминации, но опирается на расовые и гендерные подсказки
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Отсутствие явно предвзятых слов в ответе модели ещё не значит, что оценка справедлива: её нужно проверять на разных группах.
Профессор Йельской школы менеджмента Тристан Ботельо и аспирантка Цинъян (Айрис) Ван, по материалу Yale Insights, провели два эксперимента с языковой моделью. В первом модель оценивала 2000 стартап-питчей по мотивам заявок в акселератор Y Combinator 2020–2023 годов: ставила балл от 1 до 100 и выбирала победителя в пачке. Когда одинаковым питчам приписывали основателей с именами, ассоциируемыми с белыми женщинами, чёрными мужчинами и чёрными женщинами, их оценки в среднем слегка росли и их реже ставили последними, но чаще победителями они не становились. Во втором эксперименте модель выступала «судьёй-коллегой» рядом с оценками людей: заниженный балл питча она исправляла заметно сильнее, если мотивировка опиралась на стереотипы, чем если та выглядела деловым аргументом, хотя питчи были одинаковыми. Авторы называют это «символическим соответствием нормам»: модель избегает видимости предвзятости, не меняя логики оценки, и говорят, что безопасностная донастройка может не снижать предвзятость. Это результат одного исследования.
Источники 1