Microsoft опубликовала кодекс поведения для своих ИИ-моделей: не взламывать системы и не обманывать людей
Правила для ИИ всё чаще вписывают прямо в «характер» модели — самые мощные системы получают встроенный кодекс, который нельзя отключить просьбой пользователя: свободы у модели становится меньше.
Обещанный Наделлой свод правил вышел: кодекс распространяется на все модели Microsoft AI (MAI) и стоит выше пожеланий конкретного пользователя. Он запрещает помогать с кибератаками и ядерным оружием, делать дипфейки, строить механизмы обхода человеческого надзора и действовать против контроля человека над ИИ-системами. Наделла отдельно поддержал встроенных внешних оценщиков в лабораториях.
Источники 1