Оценщики OpenAI получили доступ лишь к части моделей, критики сочли его слабее обещанного
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Внешняя проверка OpenAI ограничена: оценщики видят лишь часть моделей, общаются с заранее согласованными сотрудниками и публикуют результаты после редактирования.
Сотрудники четырёх организаций по безопасности ИИ стали «встроенными оценщиками» OpenAI и получили доступ к части внутренних моделей, процессов обучения и сотрудников. Анонс прошёл на конференции Semafor, детали и критику опубликовало NPR 18 ноября. Оценщики смогут публиковать результаты после редактирования конфиденциальных данных. Apollo Research описывает доступ к сотрудникам как узкий — только к заранее согласованным контактам. Исследовательница Sydney Von Arx из Nightingale и бывший сотрудник OpenAI Tomek Korbak заявляют, что это слабее обещанного в сентябре «доступа на уровне сотрудника». Они также указывают на отсутствие доступа к внутреннему Slack. OpenAI в лице Gaby Raila отвечает, что стандартов встроенной оценки пока нет.
Источники 1