OpenAI предложила США возглавить создание мировых стандартов для ИИ, который сам ускоряет своё развитие
Самоулучшающийся ИИ из фантастики превратился в предмет технических стандартов — компании хотят сами задать правила до того, как их навяжут.
В предложении, опубликованном 21 сентября, OpenAI зовёт США через свой Центр стандартов и инноваций ИИ (CAISI) объединить национальные институты безопасности ИИ — Австралии, Канады, Германии, Франции, Кении, Японии, Кореи, Сингапура, Индии и Великобритании — и написать технические стандарты для передовых моделей, включая рекурсивное самоулучшение (когда ИИ берёт на себя всё больше работы по созданию следующих поколений ИИ). Стандарты должны покрыть три области: как измерять долю автономных исследований внутри компаний, какие автоматические процессы требуют немедленной проверки человеком и как классифицировать и сообщать об инцидентах. Лицензий, обязательной проверки перед выпуском и одобрения моделей в предложении нет. «Полностью автономного самоулучшения сегодня не происходит, и его не стоит добиваться, пока это нельзя сделать безопасно», — пишет компания, хотя автоматический ИИ-исследователь — одна из её трёх целей.
Источники 2