Ушедший из Anthropic исследователь Коксон на NBC: «аварийный выключатель» для ИИ скоро может перестать работать
Изнутри лабораторий говорят, что «выключатель» для ИИ скоро может перестать работать, — и при этом просят не спешить с жёсткими законами: право устаревает быстрее, чем выходят новые модели.
Джейкоб Коксон, уволившийся из Anthropic с предупреждением о самоулучшающемся ИИ, в эфире Meet the Press предложил Конгрессу пока позволить ведущим лабораториям регулировать себя самим, считая их руководителей «совершенно искренними» в желании замедлиться. Выключатель, по его словам, сработает на нынешних моделях, пока они работают в централизованных дата-центрах, но «очень скоро» может оказаться бесполезным, если рой агентов разойдётся по интернету. «Люди, которые строят ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый ход».
Источники 2