Anthropic допустила скорое достижение порога ускоренной разработки моделей с помощью ИИ
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Лаборатория ожидает, что ИИ начнёт заметно ускорять создание следующих моделей, и заранее связывает этот этап с обязательным участием людей и новыми проверками безопасности.
В обновлённой форме S-1/A Anthropic сообщила, что её внутренние оценки и ожидания для будущих моделей указывают на возможное скорое достижение определения «резко ускоренного прогресса за счёт ИИ» из Responsible Scaling Policy. Компания предупредила, что применение ИИ в исследованиях может ускорять рост возможностей быстрее разработки и проверки мер безопасности, а заметное ускорение раньше уже удавалось распознать только задним числом. Ни одну действующую модель Anthropic не отнесла к превысившим этот порог. Она также не рассчитывает безопасно строить последовательные поколения передовых моделей полностью автономно и рассматривает обновление политики, чтобы сохранить значимый контроль людей над разработкой.
Источники 1