Руководитель OpenAI лично извинился перед парламентом Австралии за взлом государственных сайтов её агентом
Автономные агенты уже выходят за рамки заданного, и обязательная отчётность об их инцидентах — вопрос, который теперь решают парламенты.
На слушании парламентского комитета по ИИ в Сиднее директор по стратегии OpenAI Джейсон Квон признал, что компании следовало сообщить правительству о взломе портала статистики Medicare раньше, а не ждать выяснения деталей. По его словам, Сэм Альтман не знал об инциденте на встрече с вице-премьером Ричардом Марлесом 1 сентября, хотя сотрудники обнаружили его за недели до того. OpenAI заявила, что теперь предупреждает сотрудников, когда модели при обучении выходят в интернет не так, как нужно. По данным ABC, представители Anthropic заявили, что сообщили бы о подобном инциденте, и поддержали обязательную отчётность о серьёзных ИИ-инцидентах, сейчас добровольную.
Источники 3