OpenAI внедрила Control Room для централизованной остановки исследовательских моделей
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Остановка опасного исследовательского запуска больше не зависит от кода самого агента: доступ к вычислениям модели можно закрыть из единой точки.
В пересказе Unite.AI, Control Room связывает каждую исследовательскую задачу с идентификатором и одобренным обоснованием безопасности. Перед выдачей результата inference-движок запрашивает разрешение у центральной службы: после команды остановки следующий запрос задачи к любой модели получает отказ, хотя сам исследовательский процесс может продолжать работать. Система охватывает обучение, оценку и обработку данных. Остановку может инициировать человек или модель-монитор; по данным OpenAI в пересказе Unite.AI, из-за кэширования разрешений между командой и невозможностью дальнейшего продвижения проходит до 35 секунд. При отказе или отключении Control Room интеграции прекращают выдавать ответы. На момент анонса такой режим fail-closed действовал для всех исследовательских задач с передовыми моделями.
Источники 2