Исследователи Google DeepMind использовали агентный ИИ для математического доказательства, или «формальной верификации», ряда ключевых криптографических гарантий протокола Signal — это стало знаковым событием как для широко используемой криптографии, так и для самого ИИ.
Работа, проведенная в качестве своего рода демонстрационного проекта всего за четыре недели, имеет значение в двух аспектах. Во-первых, она служит дополнительным независимым подтверждением криптографии, которая защищает огромные объемы мировых коммуникаций на таких платформах, как приложение Signal, Google Messages и *WhatsApp. Во-вторых, она демонстрирует возможности формальной верификации Google DeepMind с использованием новой ИИ-платформы под названием AlphaProof Code.
В более широком смысле, формальная верификация с помощью ИИ переживает подъем, но пока неясно, насколько практичной она будет для широкого использования и насколько эффективной в обеспечении безопасности больших объемов кода. Сторонники формальной верификации давно называют ее своего рода Святым Граалем в области безопасности программного обеспечения, поскольку она использует математику для проверки и подтверждения того, что ПО функционирует должным образом, то есть не имеет критических уязвимостей.
До эпохи ИИ людям требовалось невероятно много времени, чтобы описать характеристики программного обеспечения, которое они хотели доказать, преобразовать эти описания в формулы, а затем разработать доказательство. Агентный ИИ может значительно сократить время последнего этапа, позволяя проводить такой анализ, как оценка протокола Signal компанией DeepMind. Но даже этот анализ был ограничен по объему — он не включал, например, формальную верификацию всего мобильного приложения Signal — и исследователи DeepMind подчеркивают, что их выводы являются лишь одним из этапов более крупного процесса.
«Мы очень воодушевлены этим результатом, но предстоит пройти долгий путь, прежде чем мы сможем масштабировать это на все программное обеспечение в мире, а мы хотим это сделать», — говорит Суарат Чаудхури, научный сотрудник DeepMind, в интервью WIRED.
Анализ DeepMind не выявил новых уязвимостей в тех частях протокола Signal, которые были рассмотрены. Однако, когда исследователи использовали AlphaProof Code на более старых версиях Signal с известными и давно устраненными уязвимостями, он правильно идентифицировал их и показал, что протокол не может быть формально верифицирован. Исследователи публикуют спецификацию и доказательство, разработанные для анализа протокола Signal, чтобы помочь в дальнейшей работе по формальной верификации.
,
Хотя скорость проекта была примечательной, исследователи DeepMind отмечают, что им удалось получить определенное преимущество благодаря предыдущей работе по формальной верификации, проведенной Signal Foundation.
«В то время как предыдущая формальная верификация была сосредоточена на небольших частях кода, подход Google DeepMind позволяет значительно расширить возможности», — заявил в своем заявлении Эрен Крет, технический директор Signal. «По мере роста угроз безопасности, связанных с ИИ, тщательная проверка реализации протокола Signal дает нам еще большую уверенность в гарантиях конфиденциальности нашего кода».
Для критически важных сервисов, используемых в условиях высокого риска, было бы мечтой иметь возможность формально верифицировать каждую кодовую базу и всю цепочку поставок программного обеспечения. «Если теперь вы можете проверить корректность этих реализаций, то можете спать спокойно», — говорит Пушмит Коли, главный научный сотрудник Google Cloud и вице-президент по исследованиям DeepMind. «Представьте банки, представьте все те другие компании, которые полагаются на гарантии и беспокоятся об ошибках, которые теперь могли бы сказать: «Я могу доказать эти свойства»».
Однако открытым вопросом во всей технологической отрасли остается, сможет ли автоматизированная ИИ формальная верификация действительно масштабироваться — и сможет ли она сделать это по приемлемой цене. DeepMind провела анализ Signal бесплатно в рамках исследовательского проекта, а Google отказалась сообщить о затратах на анализ. Компания также отказалась комментировать, планирует ли она выпустить коммерческий продукт или услугу для формальной верификации.
Исследователи говорят, что некоторые из их ключевых достижений заключаются в разработке «процесса сотрудничества человека и ИИ», как выражается Чаудхури, который позволяет агентам вносить вклад и самокорректироваться почти на каждом этапе процесса, при этом по-прежнему запрашивая ввод и проверку со стороны человека на ключевых этапах. «Мы не хотим такого сценария, когда ИИ генерирует цели, ИИ генерирует доказательства и, по сути, сдает тесты, написанные им самим», — говорит Чаудхури. «Есть золотая середина».
Эта статья изначально была опубликована на wired.com.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lily Hay Newman, wired.com
