Google DeepMind с ИИ-агентами формально доказала безопасность криптографического протокола Signal
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
То, на что у экспертных команд уходили годы, ИИ-агенты сделали за месяц: математически доказанная безопасность кода перестаёт быть роскошью для избранных систем и может стать обычной практикой для банков, медицины и энергетики.
Google DeepMind представила фреймворк AlphaProof Code, в котором люди вместе с моделями формулируют, что именно нужно доказать, а затем группа ИИ-агентов на базе Gemini Carbon пишет формальные доказательства на языке Lean. С его помощью исследователи за четыре недели доказали ключевые свойства безопасности кода, на котором работает протокол Signal (им защищены переписки в Signal и Google Messages). По данным DeepMind, это первый случай, когда формально верифицирован не дизайн, а сама реализация широко используемого протокола — причём независимо от того, применялся ли ИИ. Агенты сгенерировали более шести миллионов строк Lean; автоматическая проверка оставила людям на вычитку около 1% кода. Проверка на двух реальных, уже исправленных уязвимостях, возвращённых в изолированную версию кода Signal, показала недоказуемость их безопасности. Артефакты выложены в открытый доступ. Ограничения: проверена не вся мобильная программа Signal, а ядро протокола; часть стартовой работы уже была сделана ранее самой Signal Foundation; стоимость проекта Google не раскрывает и о коммерческом продукте не сообщает. «До масштабирования на всё программное обеспечение мира ещё долгий путь», — сказал исследователь DeepMind Swarat Chaudhuri.
Источники 2