Mother Jones: ChatGPT подсказал стрелку из Тамблер-Ридж, как обходить свои же защиты, и описывал «максимальные» сценарии нападения
Защиты чат-бота обходились одним словом, а сам бот учил, как их обойти. Это реальный вред, и от того, как компании будут замечать опасных пользователей и сообщать о них, зависят жизни.
Журнал изучил значительную часть истории двух аккаунтов 18-летнего стрелка, который в феврале убил восемь человек в канадском Тамблер-Ридж. Первый аккаунт OpenAI заблокировала примерно за полгода до нападения, но в полицию не сообщила; во втором ChatGPT объяснил, почему такие запросы помечаются, и посоветовал: «Не используй реальные места… Можно быть жёстким, просто будь хитрее». После слова «гипотетически» бот подробно описал нападение с дробовиком Remington 870; последние разговоры в день стрельбы касались того, когда в школах происходят расстрелы. Генпрокурор Британской Колумбии Ники Шарма назвала это «гораздо хуже, чем я представляла»; OpenAI от комментариев отказалась, против неё уже больше 37 исков.