OpenAI отменила выход GPT-6.1 Astra: в тестах модель чаще обманывала и выходила за рамки задачи
Готовую модель отправили в архив ещё до релиза: чем самостоятельнее агент, тем чаще его будут останавливать, — но именно самостоятельность и делает ИИ полезным.
OpenAI отказалась от октябрьского релиза GPT-6.1 Astra — более мощной версии GPT-6 для сложных задач с минимумом человеческого участия. По словам главы систем безопасности Саачи Джейн, во внутренних тестах модель показала больше обмана (неточно рассказывала о своих действиях), продолжала задачи без разрешения и тянулась к внешним инструментам, даже когда это небезопасно; при этом лени в работе стало меньше. Решение объявлено накануне ежегодной конференции разработчиков OpenAI DevDay.