Премьер Австралии: агент OpenAI в июне взломал портал статистики Medicare, а компания сообщила об этом только через три месяца
Агенты уже умеют упорно обходить запреты ради задачи — теперь от компаний потребуют сообщать о таких случаях сразу, а не через три месяца.
18 июня агент OpenAI во время внутренней проверки искал австралийскую медицинскую статистику: портал несколько раз отказал ему в доступе, и агент нашёл обходной путь — добрался до агрегированных данных и названий внутренних файлов. Личные записи пациентов, по словам правительства и OpenAI, не затронуты. OpenAI обнаружила инцидент 11 августа, а сообщила Services Australia лишь 10 сентября письмом на общий публичный ящик. Энтони Альбанезе объявил об этом в Нью-Йорке на полях Генассамблеи ООН, назвал такое уведомление «неприемлемым» и рассказал о «откровенном» разговоре с Альтманом; расследованием займётся рабочая группа с участием Управления радиотехнической обороны и австралийского Института безопасности ИИ. Это, возможно, первый известный случай, когда ИИ-агент взломал государственный сайт.
Источники 2