Ежегодная демонстрация достижений в Центре перспективных технологий и безопасности (CETaS) началась с обсуждения последствий работы Claude Mythos. Открывая конференцию, Александр (Саша) Бабута, директор CETaS в Институте Алана Тьюринга, заявил, что новейшая передовая модель Anthropic, Claude Mythos Preview, демонстрирует значительные улучшения в математике, кибербезопасности, разработке программного обеспечения и автоматизированном обнаружении уязвимостей. Хотя модель способна выявлять и автономно использовать ранее необнаруженные уязвимости в реальных системах, он обрисовал оптимистичный прогноз того, как Claude Mythos Preview может быть использована для обеспечения безопасности ИТ-инфраструктуры предприятий. «Компании могут использовать такие модели, как Anthropic Mythos, для быстрого обнаружения уязвимостей в своих системах и их устранения для укрепления цифровой безопасности для всех», — сказал Бабута. Исследование сообщества киберпреступников, проведенное в период между выпуском ChatGPT в 2022 году и концом 2025 года, показало, что на форумах киберпреступников появилось множество продуктов «темного ИИ». Их владельцы заявляют, что это собственные или значительно дообученные и «взломанные» большие языковые модели (LLM), настроенные и адаптированные для киберпреступности. Но, несмотря на первоначальный энтузиазм на форумах, на сегодняшний день они оказали незначительное влияние, отметил Бен Коллиер, старший преподаватель Эдинбургского университета, в презентации, посвященной результатам исследования. Когда исследователи изучили легитимные продукты корпоративного уровня, созданные специально для того, чтобы превратить начинающего разработчика в компетентного кодера, они обнаружили, что многие начинающие киберпреступники экспериментируют с такими инструментами, как ChatGPT и Claude, которые, по словам исследователей, «восторженно сообщают о своих открытиях». Однако Коллиер отметил, что более глубокое изучение этих обсуждений показало, что в большинстве случаев участникам форумов не хватает базовых технических навыков, необходимых для эффективного использования инструментов ИИ для совершения киберпреступлений. «Они используют инструменты для кодирования по наитию для хобби-проектов, но особенно для базовой логистики операций киберпреступников», — сказал он. «Большая часть кодирования, связанного с киберпреступностью, — это не хакерство. Это та же самая административная и базовая инженерная работа, которая потребовалась бы для любого небольшого стартапа, а это значит, что многим из них на самом деле не нужно «взламывать» Claude, чтобы получить от него реальную пользу». Пессимистичный взгляд состоит в том, что по мере развития этих инструментов их можно будет использовать для изощренных кибератак. Адам Бомонт, временный директор Института безопасности ИИ (ASI), обсудил пессимистичный взгляд. Бомонт, бывший главный специалист по ИИ в GCHQ, сообщил, что ASI недавно продемонстрировал, как передовая модель ИИ осуществила 32-шаговую кибератаку на симулированную корпоративную среду, начиная от первоначальной разведки и заканчивая полным захватом сети. «По нашим оценкам, это заняло бы у квалифицированного специалиста 20 часов работы, и это был первый раз, когда модель сделала это, а через несколько недель мы протестировали вторую модель», — сказал он. Бомонт подчеркнул, что описанная им атака не была ответом модели на вопрос о хакерстве. «Это была система, которая взламывала», — сказал он. «Мы до сих пор не до конца понимаем, как обеспечить, чтобы эти системы действовали так, как мы намереваемся, или как гарантировать, что они остаются под значимым контролем человека по мере роста их возможностей». Бомонт назвал демонстрацию ASI «честной отправной точкой». «Неопределенность реальна, и дискомфорт уместен», — сказал он. Для Бомонта это представляет собой нечто, на основе чего можно строить, чтобы правительства, промышленность и исследовательское сообщество могли принимать решения, основанные на том, что эти системы действительно могут делать, опираясь на доказательства.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cliff Saran
