22 исследователя, среди них Хинтон, Бенджио и главный учёный OpenAI, предупредили о «взрыве интеллекта» от автоматизации ИИ-исследований
Сами создатели ИИ говорят, что цикл «ИИ улучшает ИИ» уже раскручивается, и одновременно предлагают правительствам аудиторов внутри лабораторий, пределы роста и рубильник в дата-центрах: ускорение впервые называют угрозой, которую нужно ограничить.
В статье «What if automating AI R&D triggers an intelligence explosion?» (Кембриджский центр CASP) авторы, включая Джеффри Хинтона, Йошуа Бенджио, Джейкоба Пачоцки, Джека Кларка и Эрика Хорвица, пишут, что ИИ-компании подходят к автоматизации собственных исследований, которая может сжать годы прогресса в месяцы. Цифры: доля одобренного кода, написанного ИИ в Anthropic, выросла с единиц процентов до 80%+ (январь 2025 — май 2026), доля R&D-работы с лёгким человеческим надзором — с 1% до 26% (март—август 2026); месячные проекты могут быть автоматизированы к середине 2028-го. Предложения: отчётность лабораторий перед правительствами, независимые аудиторы внутри компаний, пределы скорости роста возможностей и механизм остановки исследовательских нагрузок в дата-центрах.
Источники 2