Глава Microsoft AI Мустафа Сулейман: ИИ, контроль над которым нельзя доказать заранее, отрасль должна отвергать
Одна из крупнейших ИИ-компаний готова ставить управляемость выше мощности: ИИ, контроль над которым нельзя доказать заранее, предлагают отвергать — красная линия сужает свободу моделей, а где её провести, пока никто не знает.
«Если мы не можем заранее доказать, что способны это контролировать, это провал технологии, и мы должны её отвергнуть. Это должно быть красной линией», — сказал Сулейман Bloomberg. Его беспокоят не фантастические сценарии, а разработчики, которые снимают ограничения во время тестов и направляют модель «в неоднозначную сторону». Он поддержал внешние государственные аудиты лабораторий и международный надзорный орган по образцу FINRA; Microsoft готова жертвовать возможностями, автономией или скоростью ради управляемости.
Источники 2