OpenAI переписала Model Spec вокруг пяти ценностей: на первом месте верность намерениям человека
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
OpenAI изложила поведение своих моделей через пять ценностей и признаёт, что модели им соответствуют не полностью.
В пересказе The Next Web и Unite.AI, обновлённая Model Spec — публичный свод правил поведения моделей OpenAI — построена вокруг пяти ценностей: верность намерениям человека, минимизация вреда, честность и прозрачность, самостоятельность человека и забота. Верность намерениям компания называет основой: модель должна понимать, чего человек хочет на самом деле, а не исполнять инструкции буквально. Добавлены разделы об использовании контекста (прошлые разговоры, память) и о поддержке самостоятельности пользователя, большинство правил о стиле убрано, а модель в тексте называется GPT вместо «ассистента». OpenAI пишет, что её модели «пока не полностью соответствуют» Spec, тестирует новые методы обучения и просит общественность указать, где она не согласна с найденным балансом.
Источники 3