Anthropic пустила внутрь компании внешних проверяющих из Accenture — с доступом как у сотрудников
Внешние проверяющие внутри лаборатории — способ доказать миру, что сильный ИИ можно строить прозрачно, не останавливая его развитие.
Работу возглавит Faculty — ИИ-подразделение Accenture, купленное в январе. Её специалисты будут наблюдать за обучением моделей, разбирать решения о выпуске, проводить атаки на модели и тесты на согласованность с целями людей, а об инцидентах смогут сообщать публично. Обе компании рассчитывают вложить не меньше чем по $1 млрд за пять лет; на первых порах работу Accenture оплачивает сама Anthropic, ссылаясь на то, что системы финансирования независимой оценки пока нет. Это первый практический шаг к обещанию из эссе Амодеи «Мы должны задать темп переднему краю». Соглашение неэксклюзивное: Anthropic ведёт переговоры и с некоммерческими оценщиками вроде METR. Акции Accenture после новости выросли на 8%.
Источники 3