Альтман и руководители по безопасности предупреждают: ИИ находит уязвимости быстрее, чем их успевают закрывать
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Руководители ИИ-компаний говорят, что находить дыры в программах стало проще, чем их закрывать, — пока это прогнозы.
После обнаружения критической уязвимости в языке PHP, которым пользуется около 70% сайтов, руководители отрасли говорят о «Чёрном октябре». По данным The Guardian, Сэм Альтман в четверг вечером сказал: «Я больше не думаю, что мы сможем закрыть все уязвимости». Заместитель директора Anthropic по информационной безопасности Джейсон Клинтон написал в X, что в ближайшие месяцы ждёт «цунами уязвимостей» и «не хватит времени, чтобы закрыть критическую инфраструктуру»; глава Salesforce Марк Бениофф назвал ситуацию «красным кодом». По пересказу The Decoder, в недавнем интервью Альтман говорил, что модели находят в том числе аппаратные уязвимости, неизвестные людям-хакерам, что одного латания недостаточно, а продвинутые системы неизбежно будут выходить из песочниц; единственным долгосрочным решением он назвал выравнивание ИИ с человеческими ценностями и признал, что это пока нерешённая исследовательская задача. The Decoder замечает, что эти предупреждения совпадают с коммерческими интересами OpenAI. Это прогнозы и заявления участников рынка, а не измерения.
Источники 2