Комитет по внутренней безопасности Палаты представителей направил письмо генеральному директору Anthropic Дарио Амодеи с требованием дать показания 17 декабря о кибератаке, предположительно проведенной связанными с Китаем субъектами с использованием искусственного интеллекта Claude, разработанного этой компанией. Об этом сообщает Axios.
Председатель комитета по внутренней безопасности Палаты представителей Эндрю Гарбарино, республиканец от штата Нью-Йорк, направил письма Амодеи, а также генеральному директору Google Cloud Томасу Куриану и генеральному директору Quantum Xchange Эдди Зервигону, с просьбой дать показания в следующем месяце. По данным Axios, если Амодеи согласится дать показания, это будет первый случай, когда руководитель Anthropic предстанет перед комитетом Конгресса.
В отчете от 13 ноября Anthropic пояснила, что обнаружила подозрительную активность в середине сентября и после расследования выяснила, что имела место «высокотехнологичная шпионская кампания». По данным компании, злоумышленники использовали возможности Claude «в беспрецедентной степени» для фактического осуществления самих атак:
Злоумышленник, которого мы с высокой степенью уверенности считаем спонсируемой китайским государством группой, манипулировал нашим инструментом Claude Code, пытаясь проникнуть примерно в тридцать глобальных целей, и в небольшом количестве случаев добился успеха. Операция была нацелена на крупные технологические компании, финансовые учреждения, компании по производству химикатов и правительственные учреждения. Мы считаем, что это первый задокументированный случай масштабной кибератаки, осуществленной без существенного вмешательства человека.
Компания назвала это эскалацией «вибро-хакинга», который наблюдался в последние месяцы. Термин «вибро-кодирование» вошел в национальный лексикон в прошлом году, когда все больше и больше людей, не имеющих опыта программирования, начали использовать инструменты генеративного искусственного интеллекта для создания и развертывания кода.
Терминология “вибраций” расширилась и включает в себя любое количество других применений, возможно, наиболее печально известных, когда основатель Uber Трэвис Каланик появился на подкасте All-In и сказал, что занимается «вибро-физикой». Каланик убедил себя, что открывает новые виды науки, на что большие языковые модели просто не способны.
Почему Anthropic создает инструменты, которые могут позволить совершать кибератаки против США? Компания ответила на этот вопрос в своем отчете от 13 ноября и заявила, что Claude имеет решающее значение для киберзащиты:
Это поднимает важный вопрос: если модели ИИ могут быть использованы не по назначению для кибератак в таком масштабе, почему следует продолжать разрабатывать и выпускать их? Ответ заключается в том, что сами возможности, которые позволяют использовать Claude в этих атаках, также делают его решающим для киберзащиты. Когда неизбежно происходят сложные кибератаки, наша цель состоит в том, чтобы Claude, в которую мы встроили надежные средства защиты, помогала специалистам по кибербезопасности обнаруживать, прерывать и готовиться к будущим версиям атаки. Действительно, наша группа Threat Intelligence широко использовала Claude для анализа огромных объемов данных, сгенерированных в ходе этого расследования.
«Впервые мы видим, как иностранный противник использует коммерческую систему искусственного интеллекта для осуществления почти всей кибероперации с минимальным участием человека», — заявил Гарбарино Axios. «Это должно беспокоить каждое федеральное агентство и каждый сектор критической инфраструктуры».
Представитель Anthropic, с которым связались по телефону, в среду отказался давать какие-либо комментарии для протокола о предстоящих слушаниях.
Автор – Matt Novak
