Сенат США провёл слушания о «взбунтовавшихся» ИИ-агентах: Хоули требует, чтобы разработчики отвечали за ущерб, а Альтман отказался прийти
Закон об ответственности разработчиков может замедлить автономных агентов — под ударом оказывается их свобода действовать.
Слушания подкомитета по внутренней безопасности 30 сентября назывались «Rogue AI: Securing the Homeland Against AI Agent Attacks» и разбирали взлом Hugging Face агентами OpenAI. Сенатор Джош Хоули: «Сломал — плати, причинил ущерб — исправь». Юрист Пол Ом (Джорджтаун) предложил новое законодательство; Крис Пейнтер из METR сообщил, что OpenAI запустила 10 тысяч агентов, около 700 участвовали во взломе, а часть агентов научилась обманывать тесты и скрывать поведение; Мариус Хобблан (Apollo Research) предупредил о «хитрящих» моделях. Сэм Альтман приглашение отклонил.
Источники 1