Вслед за призывом Anthropic замедлить разработку передовых моделей ИИ генеральный директор CrowdStrike Джордж Куртц выступил против этих заявлений, предупредив, что открытые и передовые модели уже циркулируют в дикой природе, что делает замораживание разработок неэффективным против активных угроз кибербезопасности.
Куртц сделал эти комментарии во время выступления на CNBC после публикации эссе генерального директора Anthropic Дарио Амодеи с призывом замедлить разработку передовых моделей. В понедельник CrowdStrike продемонстрировала резкий рыночный рост, подняв цену своих акций с $206 до более чем $235.
Отвечая на эссе Амодеи, Куртц заявил, что «дженни выпущен из бутылки», поскольку опасные модели уже доступны общественности и используются для выявления уязвимостей безопасности. В ответ такие компании, как Microsoft, выпускают огромные обновления Patch Tuesday, пытаясь не отставать.
Во время интервью Куртц отметил, что после атак на Hugging Face и RubyGems с помощью ИИ также необходим новый уровень безопасности. Куртц сказал: «Мы можем анализировать, что делают эти программы. Мы можем установить собственные защитные механизмы во время их выполнения. Мы можем инструментировать их, чтобы видеть, что они делают, и предотвращать их от совершения плохих поступков».
Подобно тому, что сказал Дэвид Сакс, Куртц заявил, что автономные агенты представляют серьезные риски безопасности и нуждаются в строгом контроле. Однако он предостерег от чрезмерного государственного регулирования, которое может подорвать конкурентоспособность США по сравнению с мировыми соперниками. Вместо замедления он рекомендует совместные модели безопасности, такие как инициатива Anthropic Project Glasswing, предназначенная для защиты модели Mythos, сочетающая лабораторные меры безопасности с инструментарием для мониторинга в реальном времени на уровне производства.
Справедливо сказать, что план Амодеи сталкивается с большим сопротивлением. Администрация Трампа отвергла его, заявив, что это сделает США неконкурентоспособными по сравнению с Китаем, Китай отверг его, заявив, что «Нагнетание страха, конфронтация и ожесточенная конкуренция лишь нарушат процесс глобального управления ИИ, что не отвечает ничьим интересам», и теперь важные игроки отрасли выступают против него, говоря, что он слишком полагается на чрезмерное государственное вмешательство.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Hill
