Наделла поддержал «осознанное замедление» ИИ и пообещал открыть свод правил для моделей Microsoft
Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .
К призыву притормозить присоединился крупнейший облачный провайдер — но с оговоркой, что правила не должны писать несколько избранных лабораторий; спор теперь не о том, нужны ли правила, а о том, кто их будет писать.
В воскресном посте в X глава Microsoft Сатья Наделла ответил на эссе Амодеи: компания приветствует «исследования, фокус и осознанное замедление», нужные, чтобы сделать согласование ИИ с интересами людей целью разработки, и идею встроенных внешних оценщиков. Он же оговорился, что такие усилия «не могут контролироваться горсткой компаний». Наделла объявил, что на следующий день Microsoft выложит на публичное обсуждение «Кодекс поведения» для своих моделей MAI: по нему модели не должны сопротивляться отключению, скрывать рассуждения от аудиторов и ставить себе собственные цели. «Любое стремление к сверхинтеллекту должно исходить из принципа: если ИИ не помогает человечеству и не под контролем человека, его не стоит создавать».
Источники 2