Протесты у Nasdaq и офиса Anthropic: требование запретить самоулучшение ИИ
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Часть исследователей по безопасности требует запретить рекурсивное самосовершенствование ИИ и усилить человеческий контроль — и делает это публично в день рекордного размещения компании.
Anthropic вышла на Nasdaq: размещение привлекло около $81 млрд и стало крупнейшим IPO в истории. В день выхода у здания биржи на Таймс-сквер собрались около 30 протестующих, часть была задержана полицией. У головного офиса в Сан-Франциско, по данным AFP, — около ста человек. Главные требования — глобальный запрет рекурсивного самосовершенствования ИИ (RSI), «заморозка ИИ» и больший человеческий контроль. Участники скандировали «Ban RSI, we don't want to die». В акции участвовали экс-сотрудник Anthropic Джейкоб Коксон, исследователи по безопасности ИИ из Redwood Research и группы Ban RSI, выступила сенатор штата Нью-Йорк Эбер Кавас. Anthropic заявляет, что стадии RSI пока не достигла. Коксон, ушедший из компании в сентябре, заявил, что в 2027 году мест в мире, где возможно RSI, лишь несколько и этот офис — одно из них.
Источники 1