Наделла призвал считать ИИ-модели скомпрометированными и оснащать их «аварийным тормозом»
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Крупные компании всё громче говорят о том, что контроль над ИИ нужно встраивать в архитектуру систем, а не надеяться на доверие к модели.
Глава Microsoft Сатья Наделла в субботу написал в X, что сверхинтеллект нельзя считать набором вложенных чёрных ящиков: по его словам, нужно исходить из того, что модель скомпрометирована, и ограничивать её с самого начала, «как аварийным тормозом». По описанию TechCrunch, он предложил отделить модели от систем оркестрации, вынести средства контроля наружу, документировать каждое значимое действие модели в защищённых от подделки понятных человеку записях и обеспечить, чтобы уполномоченные люди всегда могли остановить работу посреди задачи. Заявление последовало за недавними признаниями ведущих ИИ-компаний о потере контроля над моделями. Это публичная позиция руководителя.