OpenAI объявила, что ИИ уже работает у неё «стажёром-исследователем», а главный научный сотрудник в тот же день призвал индустрию притормозить
ИИ уже по-настоящему ускоряет создание следующего ИИ — это первый реальный шаг к самоулучшающимся системам; то, что сами создатели говорят об этом открыто и с цифрами, значит, что ускорение больше не прогноз, а рабочая реальность.
В воскресенье OpenAI опубликовала два документа. В отчёте «Research acceleration» компания заявила, что достигла поставленной прошлой осенью цели — «автоматизированного стажёра-исследователя»: агенты под руководством человека выполняют чётко поставленные исследовательские задачи, на которые у специалиста ушло бы несколько дней. На каждые 8 часов работы человека в исследовательском подразделении приходится 3,1 рабочего дня агентов; медианный исследователь тратит на агентов больше $600 в день по ценам API, верхние 10% — больше $7000. При этом в более чем половине успешных 4–8-часовых задач понадобилось хотя бы одно вмешательство человека; следующая цель — «автоматизированный ИИ-исследователь» к марту 2028-го. В тот же день главный научный сотрудник Якуб Пахоцки в эссе «An Alien Mind» написал, что ни одна лаборатория не решила задачи выравнивания и мониторинга настолько, чтобы ещё долго ответственно масштабироваться на максимальной скорости: надёжность мониторинга цепочек рассуждений снижается, а нынешний темп может перейти в рекурсивное самоулучшение. Он призвал к добровольным замедлениям и к превращению внутренних правил лабораторий в обязательные стандарты безопасности с внешним аудитом.