Мнение Оглядываясь назад, можно сказать, что название Mythos сделало его заложником судьбы. Возможно, Anthropic надеялась, что это название подразумевает мифические, божественные способности их модели безопасности кода ИИ, но есть и альтернативная трактовка. Другое определение слова “миф” — это совокупность убеждений неясного происхождения, несовместимых с реальностью.
Эта реальность просачивается, и она выглядит менее мифической, а более типичной. Mythos — отличный инструмент, способный автоматизировать многое из того, что делают эксперты-люди, и именно эксперты-люди получают от него наибольшую пользу. Он очень хорош в поиске известных людям классов уязвимостей, но не находит тех, о которых они не знают. Обучение, не так ли? Проект Glasswing, ограничивающий раннее использование доверенными партнерами с реальной потребностью, вероятно, является ответственным подходом к использованию его возможностей во благо, но другие нерегулируемые модели тоже весьма хороши в этом. Немного шумихи, немного правды, LLM будут делать то, что умеют LLM.
Цинично утверждать, что единственная реальная инновация — это этичная работа компании, занимающейся ИИ. Столь же цинично рассматривать закрытое развертывание и сопутствующую ему огласку просто как упражнение в нагнетании ажиотажа. Более конструктивно, возможно, точнее и, безусловно, более захватывающе воспринимать все это как ранний проблеск лучшего будущего. Будущего, где ландшафт угроз перестанет быть функцией геологических и климатических сил, которые мы не можем контролировать, и вместо этого станет культивируемым, управляемым и отрадно недраматичным.
Два тезиса указывают путь. Первый — эффективность таких инструментов, как Mythos, будет продолжать развиваться, выявляя все больше структурных и индивидуальных недостатков кода. Второй — эти инструменты неизбежно станут общедоступными. Скорость и стоимость могут быть контролируемыми, но результат неизбежен. В сфере ИТ нет долгосрочных секретов.
Прямо сейчас и в обозримом будущем большая часть работающего кода была написана в доиндустриальную эпоху обнаружения уязвимостей. Эту работу выполняли глаза, а не шары ИИ. Выбрасывать бродячие стаи неумолимых роботов, охотящихся за уязвимостями, в текущую общественную среду — плохая идея. Если они появятся слишком рано, будет хаос. А они появляются.
Но если мы переживем этот переход невредимыми, пусть роботы бродят на воле. Есть один класс кода, который гарантированно не будет представлять никаких рисков безопасности, — это неразвернутый код. У нового кода много проблем, некоторые обнаруживаются до развертывания, а некоторые нет, но их число никогда не бесконечно. Там, где существуют по-настоящему превосходные инструменты, код можно сделать по-настоящему превосходным до выпуска. Неважно, что те же инструменты станут доступны злоумышленникам после этого.
Хорошая и часто цитируемая аналогия — авиационная безопасность. В начале реактивной эры новые авиалайнеры имели конструктивные и механические дефекты, из-за которых они падали с неба. Со временем совершенствовались не только знания о конструкции и материалах, но и инженерные и регуляторные дисциплины. Сейчас аварии все еще случаются, но их неизбежно можно отнести к тому, что можно и нужно было сделать правильно, но не сделали. На горизонте не маячит новый, не открытый класс сбоев. Маловероятно, что с кодом все иначе — в конце концов, мы занимаемся им ровно столько же, сколько летаем на реактивных самолетах.
Простое исправление уязвимостей в коде не решает проблему безопасности, так же как знание того, как создавать и пилотировать исключительно безопасные самолеты, не предотвращает попадание в них топлива, стаи гусей или глупых людей. Однако это очень помогает. Анализ эксплойтов, основанных на длинных цепочках известных и неизвестных уязвимостей, показывает, насколько ненадежным может быть код, но также показывает, что устранение всего лишь одного из этих багов останавливает всю атаку. Модель сбоев “швейцарского сыра” работает все хуже, чем больше сыр становится похож на чеддер.
Что касается дыр вне кода — эксплойтов цепочки поставок, специального инжиниринга, откровенного саботажа изнутри — в той мере, в какой мы можем это кодировать, моделировать и на чем обучаться, они также будут подвластны неисчерпаемому терпению механизмов вывода. И пока огромные массивы корпоративной инфраструктуры продолжают работать на старых, неисправленных или неправильно сконфигурированных системах, это будет сродни полетам на самолетах из Эпохи Смерти. У ИТ нет эквивалента ФАА, обладающего властью запрещать полеты тому, что никогда не должно летать, хотя это и было бы забавным контрфактом.
И это пройдет. Невозможно, чтобы инструмент, который находит сотни уязвимостей, не сделал старый код безопаснее, а новый — намного безопаснее. Будет очень интересно посмотреть, как инструменты для поиска дефектов будут развиваться параллельно с методами проектирования, структурирования и написания кода для обеспечения внутренней прочности. Никто не должен ожидать, что нынешнее положение дел является самым эффективным и наименее затратным способом. И никто не должен ожидать, что человеческий опыт выйдет из употребления. Тот факт, что так много проблем авиационной безопасности связано с человеческим фактором, показывает, насколько люди по-прежнему неотъемлемы в проектировании, строительстве, обслуживании и эксплуатации в воздухе.
Пусть компьютеры делают то, что у них получается лучше всего, а люди — то, что получается лучше всего у них. Старая, но верная истина. Мы знаем из десятилетий цифровой жизни, что люди не очень хороши в обеспечении безопасности, и компьютеры тоже в этом не сильны. Согласно другой старой поговорке — дайте нам инструменты, и мы закончим работу. Mythos — это не инструмент, который позволит нам это сделать, пока нет. ИИ в целом, похоже, намерен усугублять ситуацию.
Теперь, наконец, мы можем увидеть путь вперед, другой способ ведения дел, который, вероятно, действительно произойдет. То, что было ландшафтом угроз, может стать садом, где растут хорошие вещи. Это не миф, это будущее. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rupert Goodwins
