Все новости

OpenAI привлекла Hacktron к поиску уязвимостей в связях со сторонними сервисами

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

Защита ИИ-агентов всё больше зависит от проверки всей цепочки подключённых сервисов и разрешений, а не только поведения отдельной модели.

По описанию OpenAI в пересказе Unite.AI, инженеры компании и исследователи Hacktron будут совместно выбирать приоритетные участки для проверки, уделяя внимание слабым местам, которые возникают при соединении приложений, систем идентификации и инфраструктуры. Hacktron получит расширенный доступ к передовым моделям через программу Daybreak Red для авторизованного поиска уязвимостей и проверки защиты. Компании уже взаимодействовали через программу вознаграждений за уязвимости OpenAI.

Источники 2

История

OpenAI усиливает внутреннюю защиту

3 события
  1. OpenAI привлекла Hacktron к поиску уязвимостей в связях со сторонними сервисамиОткрыто сейчас
  2. Сотрудники OpenAI годами предупреждали руководство о слабой защите исследований
  3. OpenAI привлечёт Cathedral к новой проверке защиты и повысит награды за уязвимости