По утверждению авторов колонки в Guardian, отчёт, составленный чат-ботом, чуть не привёл к военной операции против китайского судна
Ошибка модели в руках без проверки может раскрутить большие события — это задача для проверки данных, а не повод останавливать разработку.
Тимнит Гебру и Эмили Бендер пишут, что аналитик Тихоокеанского командования спецопераций США использовал чат-бот для разведывательного отчёта, ошибочно утверждавшего, что китайское судно везёт компоненты ядерного оружия в Иран; по их словам, самолёты уже были в воздухе, а десант готовился, когда выяснилось происхождение отчёта и операцию отменили. Это мнение авторов колонки, не подтверждённое в найденных материалах официальными источниками; сенаторы Уорнер, Рид и Кунс, по тексту, 19 сентября запросили проверки генеральных инспекторов.
Источники 2