Apple Pay вышел из строя. Внутренняя сеть связи NASA перестала работать. Федеральное управление гражданской авиации (FAA) было вынуждено приостановить все полеты на несколько часов (это всего лишь третий случай в истории с 11 сентября), а Microsoft подверглась атаке, которая вывела из строя Outlook, Teams и Copilot почти на два дня.
Первая мысль, естественно, — вторжение хакеров с использованием ИИ, особенно после того, как киберпреступникам удалось атаковать холодильники в продуктовом магазине и банк крови во Франции несколько недель назад. Здесь, в США, директор национальной разведки заявил, что эти сбои не связаны с государственным терроризмом, в то время как президент Трамп назвал проблемы «отдельными событиями». Многие компании сами заявили, что сбои были вызваны не кибератаками или атаками с использованием ИИ, а техническими проблемами.
Однако есть факт, что все они произошли в короткий промежуток времени друг за другом, и всего через несколько недель после так называемого «Черного октября» в сфере кибербезопасности, когда 21 октября произошла серия также не связанных между собой инцидентов в области кибербезопасности, затронувших PHP, Node.js, LiteLLM и другие.
Это действительно кажется более чем совпадением. Честно говоря, это напоминает ИИ-версию Y2K.
Дэйв ДеВолт, инвестор, проработавший в сфере кибербезопасности более трех десятилетий (в том числе в качестве президента и генерального директора McAfee и заместителя председателя Консультативного совета CISA при Министерстве внутренней безопасности), также считает, что это, вероятно, связано с ИИ.
«Технические сбои — это, скорее всего, «детские болезни системы безопасности, которая становится сильнее, а не слабее», и «ИИ выявляет уязвимости со скоростью и в масштабах, которых мы никогда раньше не видели, с помощью таких инструментов ИИ, как Mythos и других», — сказал он TechCrunch.
Дело в том, что многие из этих технических недостатков существовали всегда, но поскольку ИИ выявляет их так быстро, предприятия спешат исправить их, прежде чем злоумышленники смогут ими воспользоваться. «Этот всплеск исправлений краткосрочно нарушает работу», — сказал он.
Возможно, это был первый момент, когда устаревшее встретилось с современным, сказала TechCrunch Ануша Айер, инженер-программист и основатель стартапа в области безопасности Corsha. «Эти промышленные системы никогда не предназначались для подключения, тем более безопасного подключения, в том виде, в каком мы пытаемся их подключить сегодня», — сказала она.
Сенатор от Вирджинии Марк Уорнер, заместитель председателя Комитета Сената по разведке, пришел к похожему выводу (хотя расследования еще продолжаются). «Эти сбои должны послужить тревожным звонком. Кажется, каждый день приносит новое напоминание о том, что ИИ движется быстрее, чем наша способность управлять его последствиями», — написал сенатор в X.
ИИ меняет способы создания, развертывания и эксплуатации программного обеспечения в таких масштабах, что каждый ощущает резкую кривую обучения. Айер привела сбой FAA в качестве примера устаревшей технологии, которая не так сложна или продвинута, как технологии, с которыми компании пытаются ее объединить.
Говоря менее техническим языком, она сказала, что сбой мог быть вызван (и предварительные выводы указывают на это), когда FAA пыталось модернизировать свою телекоммуникационную инфраструктуру, и переход перегрузил части его устаревшего оборудования, где новая технология, вероятно, работала в обычном современном режиме, в то время как устаревшее оборудование не могло угнаться.
Если смотреть с этой точки зрения, сказала она, ИИ на самом деле получает плохую репутацию. «Это не быстрое внедрение ИИ вызывает эти сбои», — сказала она. «Виновато поспешное смешивание устаревших и современных систем без четкого понимания операционных рисков и рисков кибербезопасности или возможности контролировать и защищать устаревшие системы».
Организациям нужен более надежный подход к внедрению ИИ, включая большее тестирование и определение приоритетов того, что нужно исправить и когда, сказал ДеВолт.
Айер добавила: «Эти промышленные системы должны быть более тесно сегментированы и иметь более строгий контроль доступа, чтобы при внедрении современных систем можно было поэтапно вводить их и снижать риски».
На самом деле, для компаний (и для венчурных инвесторов) во всем этом может быть и положительная сторона. ДеВолт сказал, что он предпочел бы, чтобы эти американские предприятия нашли и исправили свои недостатки, даже таким неряшливым способом, чем если бы злоумышленники нашли и использовали эти уязвимости в войне с использованием ИИ, которая могла бы вызвать еще больше проблем национальной безопасности.
И, возможно, некоторые начинающие основатели были вдохновлены ими. ДеВолт ожидает роста числа компаний, специализирующихся на «управлении уязвимостями на основе ИИ, автономном устранении неполадок, безопасном тестировании и развертывании исправлений, а также обеспечении устойчивости систем, обеспечивающих работу критически важной инфраструктуры».
«В этом переходе есть реальная боль, как мы видели на прошлой неделе», — сказал ДеВолт. «Но есть и огромные возможности для компаний, которые помогают организациям работать со скоростью ИИ, не ломая ничего».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dominic-Madori Davis




