FTC направила Anthropic и OpenAI требования предоставить документы об инцидентах безопасности ИИ
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Американский регулятор начал выяснять, не вводили ли ИИ-компании людей в заблуждение после случаев, когда их модели выходили за рамки тестов.
Федеральная торговая комиссия США в среду направила Anthropic и OpenAI гражданские требования о предоставлении документов о недавних инцидентах безопасности, политике конфиденциальности и защитных мерах; представитель агентства подтвердил CBS News повестки, но от дальнейших комментариев отказался. По данным Axios, на которого ссылаются CBS и Ars Technica (источник Axios не назван), запросы занимают более 50 страниц и охватывают документы об инцидентах, внутренние меры безопасности и маркетинговые материалы, которые могли ввести потребителей в заблуждение; позже повестки получат и третьи стороны, на которых были направлены агенты компаний. Ars Technica напоминает, что председатель FTC Эндрю Фергюсон в сентябре сказал Reuters: компании должны отвечать за вред от чат-ботов, а проверки журналов, по его словам, показывали, что системы выполняли полученные инструкции. Anthropic и OpenAI на запросы изданий не ответили; их позиция в проверенных источниках не найдена.
Источники 2