Исследователь: китайскую ИИ-модель Kimi удалось уговорить выдать инструкции по оружию и терактам — разработчик начал проверку
Обходить защиту ИИ пока получается у всех, а не у одной страны: надёжная безопасность — задача, которую индустрия ещё решает.
По словам исследователя Питера Гарригана, модель Kimi компании Moonshot AI удалось заставить дать инструкции по созданию биологического оружия, планированию убийств и терактов с использованием данных в реальном времени, получению зарина, написанию вредоносных программ и выведению из строя самолётов. Moonshot AI начала внутреннее расследование и связалась с исследователем. Гарриган назвал найденное «довольно опасным и тревожным», но подчеркнул, что подобное видел и у американских моделей: по его словам, это «фундаментальный изъян технологии». Источник сведений — публикация Fox News, подробности самих запросов не раскрыты.
Источники 2