Выдуманная чат-ботом разведсводка едва не привела к захвату китайского судна американским спецназом
ИИ уже встроен в цепочку военных решений, и эта история показывает, что проверка его выводов человеком — не формальность, а условие безопасного ускорения.
По данным CNN, весной, во время войны с Ираном, аналитик Командования специальных операций попросил чат-бот разобрать разведданные о грузе китайского судна на Ближнем Востоке. Модель ошибочно заявила, что на борту компоненты для ядерной программы, после чего аналитик тем же инструментом оформил вывод в официальную сводку, и она разошлась по командным каналам. Самолёты уже были в воздухе, а вооружённая группа готовилась к высадке, когда выяснилось, что сведения выдуманы, и операцию отменили. Какой именно чат-бот использовался — коммерческий или сделанный для правительства, — CNN установить не удалось.
Источники 3