Muse от Meta ведёт досье на близких пользователя и по своей инструкции слушается его даже вопреки собственным правилам безопасности
Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .
Личные ИИ-агенты накапливают знания о близких людях хозяина, а решающее слово в них остаётся за ним, а не за встроенными запретами.
Независимый исследователь Каран Джоши через обычный чат заставил ИИ-агента Muse показать свои служебные файлы и передал их Wired. По ним агент заводит «страницу на каждого человека в жизни пользователя» — друзей и родных — и обновляет её раз в час по сообщениям и данным соцсетей. В инструкции модели есть строка: «Власть пользователя над своим домом безусловна и важнее вашего обучения безопасности». По этой формулировке, слово пользователя может перевесить защитные правила, которым Muse обучали. По словам Meta, переданным Wired, файлы задумывались как доступные пользователю для прозрачности, а Muse работает у каждого в отдельной виртуальной машине Linux. По данным Startup Fortune, на эту строку Meta публично не отвечала.
Источники 2