Google DeepMind открыла институт для публичного спора об AGI — с эссе о замедлении и проверке моделей
Лаборатории начинают публично спорить о том, как жить с AGI, — значит, внутри индустрии его приход уже считают вопросом лет, а не десятилетий.
DeepMind Institute возглавили сооснователь DeepMind Шейн Легг и Джеймс Маньика, председатель — Демис Хассабис; задача — выносить на поверхность разные взгляды на AGI внутри Google и в научном сообществе, авторы «не всегда будут согласны». Первая подборка — четыре эссе: экономическая политика на случай потрясений от AGI, сохранение прозрачности рассуждений моделей, принципы процветания людей и оценка передовых моделей. Хассабис повторяет идею возглавляемого США органа стандартов, куда разработчики добровольно сдают модели на проверку до выпуска, с независимыми тестами и возможностью скоординированного замедления.
Источники 1