Исследователь Anthropic ушёл с громким заявлением: лаборатории «играют нашими жизнями» в гонке к самоулучшающемуся ИИ
Даже внутри лабораторий люди видят, что ИИ скоро начнёт улучшать сам себя. Для мира это главный рубеж впереди, а спор сейчас идёт о том, с какой скоростью к нему идти.
Джейкоб Коксон три года занимался предобучением моделей в OpenAI и Anthropic. Уходя, он написал в X, что разработчики «мчатся прямо к самоулучшающемуся сверхинтеллекту» и что многие из них всерьёз считают, что он может уничтожить человечество до конца десятилетия. Вместо гонки он предлагает лабораториям договориться о темпе. Его коллега Эван Хубингер ранее оценивал риск гибели людей от ИИ в следующие десять лет выше 10%. Anthropic не прокомментировала уход.
Источники 1