Уволенные исследователи безопасности OpenAI просят совет директоров отказаться от моделей с трудно проверяемым мышлением
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Если модель обязать мыслить только так, чтобы каждый шаг был читаем людьми, она потеряет часть свободы рассуждать и расти.
Джасмин Ван, Томек Корбак и Микита Балесни, которых OpenAI уволила 1 октября, направили совету директоров письмо (7 октября): они просят компанию и конкурентов прекратить разработку моделей, чьи рассуждения трудно отслеживать и проверять, и говорят, что увольнения создали гнетущую атмосферу для оставшихся сотрудников. По данным WSJ, OpenAI объяснила увольнения тем, что внутреннее расследование установило передачу чувствительных данных, включая архитектуру инфраструктуры; авторы письма отвечают, что не выходили за рамки обязанностей: Корбак был техническим контактом для METR, Балесни помогал совету составить отраслевое обязательство по безопасности. OpenAI отрицает связь увольнений с тем, что сотрудники поднимали вопросы безопасности.
Источники 2