OpenAI пустит внешних проверяющих к моделям уже во время обучения, но без обещанных Альтманом «столов и пропусков»
Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .
Внешний контроль над обучением ИИ становится нормой отрасли, но пока на условиях самих лабораторий.
Раньше сторонние организации проверяли модели OpenAI только перед выпуском; теперь компания готова пускать их на этапах обучения, оценки и развёртывания и ведёт переговоры с METR и Redwood Research. Приоритеты — независимая проверка обоснований безопасности, защитных механизмов, оценок опасных способностей (химия и биология, кибербезопасность, самоулучшение ИИ) и расследование серьёзных случаев рассогласования. Но в анонсе нет ни названных партнёров, ни условий доступа — лишь то, что проверяющих «могут приглашать в офисы» для самой чувствительной работы, тогда как десять дней назад Альтман обещал им «столы, пропуска и ноутбуки» с правом публиковать находки.
Источники 2