Бывший исследователь безопасности DeepMind: «ИИ может убить нас всех, и время на исходе»
Голоса изнутри лабораторий о рисках становятся громче — но спор идёт уже не о том, мощный ли ИИ, а о том, с какой скоростью он будет становиться ещё мощнее.
Билал Чугтай, работавший в команде безопасности AGI в Google DeepMind и ушедший в июле, спустя два месяца публично объяснил уход: «Я искренне верю, что ИИ способен убить нас всех и что у нас может не хватить времени, чтобы этого избежать». По его словам, возможности моделей растут быстрее понимания того, как их контролировать; он призвал к координации, чтобы остановить «маниакальную гонку» компаний, и к темпу, «с которым общество может справиться». Пост совпал с отраслевыми дебатами о замедлении после эссе Амодеи.
Источники 2