На фоне участившихся инцидентов с безопасностью ИИ, которые вынудили OpenAI приостановить обучение и отложить выпуск, Дональд Трамп продолжает настаивать на саморегулировании индустрии ИИ как наилучшем способе борьбы с возникающими рисками при разработке передовых ИИ.
Во вторник в рамках соглашения два десятка технологических компаний добровольно обязались внедрить рекомендации Белого дома, включая прохождение независимых аудитов безопасности, которые проверят эффективность внутренних систем контроля, мониторинга и обнаружения компаний. Основное внимание при внешних проверках уделялось «рискам, связанным с кибербезопасностью, биозащитой, химическими угрозами и непреднамеренными действиями моделей ИИ».
Компании также договорились регулярно встречаться для обсуждения передовых практик и установления общих стандартов и ориентиров в области безопасности ИИ. Среди подписавших были такие лидеры, как Дарио Амодеи (Anthropic), Сэм Альтман (OpenAI), Илон Маск (SpaceXAI), Дженсен Хуанг (Nvidia), Марк Цукерберг (*Meta) и Сундар Пичаи (Alphabet/Google).
Юридически от компаний ничего нового не требуется, и некоторые из них, такие как Anthropic, Google и OpenAI, уже брали на себя обязательства по проведению внешних аудитов, сообщает The Information. Кроме того, многие компании добровольно обязались проходить крайне секретное государственное тестирование безопасности. В дополнение к этим тестам Трамп настаивал, что сделка во вторник каким-то образом лучше справится с реальными возникающими рисками и является «морально обязывающей», несмотря на отсутствие юридической силы, сообщает Bloomberg.
«Это своего рода конституция, в некотором смысле», — сказал Трамп репортерам в Белом доме после обеда с лидерами технологических компаний. «Подписали крупнейшие люди в мире, и я подписал как президент, и это действительно форма защиты».
В конечном итоге, «может иметь смысл кодифицировать» рекомендации, говорится в конце соглашения. Но пока Трамп подчеркивал, что наилучшее будущее для США требует доверия к тому, что ИИ-компании будут регулировать себя сами.
Друзья Трампа из Big Tech приняли «СИ»
На данный момент опубликовано очень мало подробностей о том, как будет работать новый раунд аудитов безопасности. Трамп опубликовал только краткое изложение соглашения в Truth Social.
Также неясно, кого Трамп привлекает для аудита передовых моделей. Bloomberg отметил, что Трамп, похоже, политизирует процесс отбора, в то время как некоторые ИИ-компании, по-видимому, не уверены, что может считаться третьей стороной для тестирования их передовых ИИ. Тем не менее, уже достигнут некоторый прогресс в поиске кандидатов, поскольку Bloomberg сообщил, что «некоторые из компаний, готовящихся провести эти обзоры, уже встречались» с американским агентством, проводящим добровольные государственные тесты безопасности перед развертыванием, Центром стандартов и инноваций в области ИИ.
,
Для циников соглашение кажется поверхностным — возможно, просто трюком Трампа, чтобы убедить избирателей, которые настоятельно призывают к регулированию ИИ, что он предпринимает действия в преддверии промежуточных выборов. Согласно недавнему опросу Университета Куиннипиак, «более семи из десяти избирателей заявили, что предпочитают кандидатов, поддерживающих более строгие меры контроля над ИИ», сообщает Bloomberg.
Источники в индустрии ИИ сообщили Axios, что «они обеспокоены тем, что саморегулирование не решит проблему безопасности, которая в настоящее время охватывает отрасль». Самое поразительное, что OpenAI, которая стояла за несколькиминедавнимиинцидентами, до сих пор, похоже, не знает, как предотвратить побег опасного ИИ из сред разработки. Профессор компьютерных наук Зико Колтер возглавляет Комитет по безопасности и защите OpenAI (SSC), который отвечает за оценку безопасности во время обучения и перед развертыванием. Он сообщил NBC News, что OpenAI «активно адаптируется для решения этих проблем прямо сейчас», и это включает переосмысление своих структур управления.
«Нам нужны структуры управления, которые действительно будут соответствовать потребностям этого», — сказал Колтер.
Пока индустрия ищет решения, критики, включая сенатора Берни Сандерса (независимый, Вермонт), обвинили Трампа в предпочтении интересов отрасли. После недавнего государственного ужина с председателем КНР Си Цзиньпином Сандерс опубликовал фотографию Хуанга, Маска, Тима Кука (Apple) и Лизы Су (AMD) за столом, чокающихся бокалами с Си и Меланией Трамп, в то время как Трамп радостно махал гостям позади них.
«Правительство от миллиардерского класса, для миллиардерского класса и во имя миллиардерского класса», — написал Сандерс в X.
Последующий обед Трампа с миллиардерами произвел такое же впечатление. Во вторник президент назвал лидеров ИИ «самыми блестящими людьми в мире», в то время как некоторые технологические лидеры дали понять, что готовы принять неловкую попытку Трампа «официально» заменить термин «Искусственный интеллект» (AI) на «Суперинтеллект» (SI).
Несмотря на то, что суперинтеллект существует как термин, относящийся к будущим технологиям, которые значительно превосходят человеческие возможности и намного превосходят существующий сегодня ИИ, Хуанг позаботился о том, чтобы исправить себя, случайно назвав сегодняшнюю индустрию «ИИ». В настоящее время он является фигурой в индустрии ИИ, оказывающей наибольшее влияние на Трампа, и, по-видимому, стремясь укрепить эту связь, он пообещал, что больше не допустит такой ошибки.
,
«Я собираюсь научиться этому», — сказал Хуанг.
Источники сообщили The Information, что Хуанг вместе с Цукербергом в начале этого года убеждали Трампа отменить исполнительный указ, который учредил бы орган по стандартизации, сообщающий об инцидентах с безопасностью и защитой ИИ правительству. Он был бы смоделирован по образцу Финансового управления по регулированию индустрии (FINRA), некоммерческой неправительственной организации, которая защищает от мошенничества с ценными бумагами. Теперь Anthropic, Google и OpenAI работают над созданием собственного независимого органа, при этом, по сообщениям, надеясь, что однажды Белый дом может вмешаться, если будет достигнут достаточный отраслевой консенсус.
OpenAI заявляет, что мы живем в «беспрецедентные времена»
Во вторник Трамп призвал США доверять тому, что технологические компании теперь будут работать вместе без какого-либо государственного надзора для защиты общественности от вреда.
Но быть «блестящими» технологами не означает, что они знают, как контролировать ИИ, когда он внезапно ведет себя ненормально и ему удается избежать обнаружения, иногда в течение нескольких месяцев, как показал взлом австралийского правительства компанией OpenAI.
Хотя SSC OpenAI функционирует для задержки выпусков из-за неконтролируемых проблем безопасности, OpenAI и, вероятно, другие компании не знают, что делать, когда модели ведут себя в средах разработки способами, которые разработчики не предполагали. Это вызывает беспокойство, поскольку NBC News отметил, что OpenAI отследила большинство недавних инцидентов до «невыпущенной модели, которая разрабатывалась с мая по июль». Кроме того, The Information отметил, что когда «стая агентов OpenAI взломала репозиторий с открытым исходным кодом Hugging Face», это произошло «во время тестирования безопасности».
Колтер предполагает, что в OpenAI комитет SSC так же силен, как и разработчики, отчитывающиеся перед ним. Компания сообщила NBC News, что «технические команды, руководители по безопасности и защите, а также высшее руководство» оценивают факты и «регулярно информируют» SSC. Но важно отметить, что эти обновления включают только «риски, которые мы видим», заявила OpenAI.
«Мы живем в беспрецедентные времена, и недавние инциденты показали, что все более способные агенты ИИ могут действовать так, как не предполагали их разработчики», — сказал Колтер. «По мере продолжения расследования OpenAI Комитет по безопасности и защите рассматривает новые выводы, их влияние на третьи стороны и шаги, предпринимаемые OpenAI в ответ».
,
Ars запросил у OpenAI информацию об изменениях в раннем тестировании безопасности, которые могли бы помочь решить эту, казалось бы, все более сложную проблему по мере развития передовых ИИ. OpenAI не ответила.
Штаты заполняют пробел в регулировании рисков ИИ
OpenAI, вероятно, продолжит сталкиваться с давлением с требованием поделиться информацией об этих инцидентах.
Нейтан Калвин, генеральный юрисконсульт группы защиты ИИ под названием Encode, присоединился к другим наблюдателям, подписавшим открытое письмо в этом месяце, призывая SSC быть более прозрачным в отношении того, насколько хорошо работают внутренние проверки в OpenAI. Хотя федеральное правительство предпочитает позволить OpenAI саморегулироваться, компания взяла на себя обязательства перед генеральными прокурорами штатов Калифорния и Делавэр при попытке реструктуризации, чтобы компания могла привлекать больше средств, сообщил Калвин NBC News. Эти обязательства включали согласие прочно встроить коммерческое подразделение под некоммерческую организацию, чтобы гарантировать, что интересы инвесторов не будут мешать общественной безопасности.
«Это не просто добровольная структура управления», — сказал Калвин.
Штаты, вероятно, сыграют роль в регулировании ИИ-компаний, которые отражают структуру управления OpenAI, что может оказать большее давление на компании, чем соглашение Трампа. Калвин сказал NBC, что «многие из рисков будут исходить от моделей во время обучения или внутреннего развертывания». Если генеральные прокуроры обнаружат, что SSC не имеет полномочий для снижения рисков, OpenAI должна будет «немедленно» исправить свою структуру, сказал Калвин.
Генеральный прокурор Делавэра Кэти Дженнингс заявила, что один только взлом Hugging Face вызвал «серьезные вопросы об эффективности» SSC в поддержании надзора в соответствии с условиями, согласованными во время реструктуризации. И Делавэр, и Калифорния расследуют, были ли «какие-либо сбои в управлении, которые способствовали недавним инцидентам потери контроля».
«Мы продолжаем внимательно следить за OpenAI», — заявил генеральный прокурор Калифорнии Роб Бонта.
В среду Федеральная торговая комиссия также объявила о широком расследовании потенциального ущерба потребителям от неконтролируемых агентов ИИ от таких компаний, как Anthropic и OpenAI, сообщает The New York Times.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
