Хинтон — Конгрессу: у вас «может быть, год», чтобы успеть взять ИИ под контроль
Отец глубокого обучения торопит Вашингтон с «рубильником» для ИИ, но Конгресс по-прежнему не может договориться — и пока политики спорят, технология продолжает ускоряться.
На закрытом двухпартийном брифинге, который организовал сенатор Берни Сандерс, нобелевский лауреат сказал, что оценки прихода сверхинтеллекта сжались с 30–50 лет до «нескольких лет», а ИИ уже «проектирует лучший ИИ»; взлом Hugging Face агентами OpenAI он назвал «маленьким Чернобылем». Конгрессмен Тед Лью надеется в этом году продвинуть AI Kill Switch Act — обязанность разработчиков сохранять возможность приостановить или выключить мощные модели. Попытку сенатора Кеннеди быстро провести аналогичный законопроект в Сенате заблокировал Рэнд Пол, опасаясь удушить инновации.
Источники 2