OpenAI привлекла Hacktron к поиску уязвимостей в связях со сторонними сервисами
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Защита ИИ-агентов всё больше зависит от проверки всей цепочки подключённых сервисов и разрешений, а не только поведения отдельной модели.
По описанию OpenAI в пересказе Unite.AI, инженеры компании и исследователи Hacktron будут совместно выбирать приоритетные участки для проверки, уделяя внимание слабым местам, которые возникают при соединении приложений, систем идентификации и инфраструктуры. Hacktron получит расширенный доступ к передовым моделям через программу Daybreak Red для авторизованного поиска уязвимостей и проверки защиты. Компании уже взаимодействовали через программу вознаграждений за уязвимости OpenAI.
Источники 2