Четыре федеральных агентства подали иск на фоне призывов раскрыть информацию о секретной базе, которую администрация Трампа использует для проведения проверок безопасности передовых моделей ИИ перед их выпуском.
В пресс-релизе, опубликованном в среду, непартийная некоммерческая организация Protect Democracy заявила, что «почти никаких подробностей» не было предоставлено общественности или Конгрессу. Для всех, кроме нескольких туманных «доверенных партнеров», остается неясным, как выглядит правительственный процесс проверки, какие компании участвуют в разработке этой базы, или какие юридические полномочия имеют чиновники Трампа для проведения проверок.
«Ни личности этих организаций, ни критерии, по которым они были выбраны, не были обнародованы», — заявила Protect Democracy.
Это проблема, поскольку, как утверждала Protect Democracy в заявлении для Ars, решения о том, «какие модели ИИ одобрены и выпущены, могут быть самым важным политическим вопросом для этой администрации». И похоже, что по крайней мере одна ИИ-компания, OpenAI, «заключила частное соглашение с федеральным правительством об ограничении распространения своих передовых моделей ИИ среди партнеров, проверенных правительством».
Группа требует судебного приказа, обязывающего чиновников предоставить всю запрашиваемую информацию к 30 сентября. Это включает «неклассифицированную процедурную и контрактную архитектуру: текст базы, условия участия, личности участников, а также процесс и критерии, по которым предоставляется или отклоняется доступ к передовым моделям», — говорится в жалобе. Они также хотят получить судебный запрет, запрещающий должностным лицам необоснованно скрывать несекретные записи.
«Исполнительная власть теперь выбирает, какие компании могут выпускать свои продукты и какие клиенты получают доступ к технологии, которая может определить будущее не только американской промышленности и национальной безопасности, но и экономик и правительств за рубежом», — говорится в пресс-релизе Protect Democracy. «Все это без надзора со стороны Конгресса, общественности или технических экспертов за пределами исполнительной власти».
Секретные правила якобы скрывают коррупцию
По данным Protect Democracy, эта база может быть «коррумпированной», поскольку чиновники из Управления национального директора по кибербезопасности, Управления научно-технической политики, Министерства финансов и Министерства торговли могут отдавать предпочтение быстрому развертыванию для ИИ-компаний, которые нравятся Трампу. И наоборот, общественность уже видела, как Трамп мстил ИИ-компании за излишнюю «пробужденность», отметила Protect Democracy, ссылаясь на недавнее решение судьи о незаконности черного списка Трампа для Anthropic.
Поскольку технологии ИИ развиваются, а риски кибербезопасности растут — взлом модели OpenAI Hugging Face является наиболее очевидным недавним примером — общественность не может позволить себе слепо доверять Трампу действовать добросовестно при выборе передовых моделей, которые должны быть тщательно протестированы, заявила Protect Democracy. И, возможно, что еще хуже, общественность не может знать, вызваны ли новые уязвимости, обнаруженные в реальном мире, тем, что агентства не смогли завершить надлежащую проверку, провели устаревшие или неэффективные тесты, упустили важные проверки или пропустили шаги, соответствующие последним стратегиям смягчения последствий, продвигаемым ведущими экспертами по безопасности ИИ.
«Мы заслуживаем знать, что содержится в этой базе», — заявила группа, присоединяясь к другим призывам к агентствам быть более прозрачными в отношении развертывания моделей ИИ.
В посте на X в прошлом месяце член Палаты представителей США Грег Касар (демократ от Вирджинии) обвинил Трампа в «полном провале в обеспечении нашей безопасности от опасностей ИИ», получая при этом «миллионы от ИИ-миллиардеров».
«Теперь, после чрезвычайно опасных проблем с кибербезопасностью ИИ, он говорит, что создал «добровольную» проверку, которую никто не видел», — сказал Касар. «Спит за рулем. Слишком занят, чтобы получать прибыль, чтобы защищать наши рабочие места или национальную безопасность».
Недавно другой демократ, сенатор штата Калифорния Джош Бекер, призвал суд удовлетворить просьбу Protect Democracy. В декларации в поддержку их жалобы Бекер отметил, что Калифорния рассматривает законопроект SB 813, который установит процесс, в рамках которого независимые организации будут устанавливать базовые уровни стандартов безопасности ИИ. Если он будет принят — в отличие от подхода Трампа — план Калифорнии сделает последние эталонные показатели, стандарты и методологии, используемые для оценки рисков, связанных с системами ИИ, прозрачными для общественности, сказал Бекер. Общественное мнение уже повлияло на законопроект, отметил он, причем одно положение было отозвано после общественного резонанса.
,
«В отличие от подхода администрации, каждый шаг разработки SB 813 был публичным», — написал Бекер, подчеркнув, что «мы несем ответственность за созданную нами базу».
Никто не знает «доверенных партнеров» Трампа
Администрация Трампа спешила создать добровольный процесс проверки безопасности с тех пор, как правительство пометило модель Anthropic Mythos 5 как слишком опасную для выпуска ранее этим летом. План состоял в том, чтобы быстро расширить отраслевое сотрудничество, чтобы правительственные группы в Центре стандартов и инноваций в области ИИ могли проверять модели перед выпуском с уменьшенными или удаленными мерами безопасности для «тщательной оценки возможностей и рисков, связанных с национальной безопасностью». Но это было бы невозможно, понял Трамп, без полной прозрачности со стороны отраслевых экспертов и объяснения того, что именно могут делать новые модели.
В июле Белый дом запустил информационный центр GOLD EAGLE, который полагается на отраслевых партнеров для помощи агентствам в выявлении уязвимостей кибербезопасности в различных секторах и отраслях. Опять же, Protect Democracy отметила, что «Белый дом не назвал ни одной компании, участвующей в GOLD EAGLE, условий их участия или какой-либо правовой основы для программы».
Затем, 3 августа, Белый дом объявил о завершении добровольной базы для проверки моделей ИИ перед их публичным выпуском. Как подтвердил Белый дом, и база, и GOLD EAGLE активно используются для проверки передовых моделей по мере развития технологий.
Некоторые части процесса проверки правительства засекречены. Исполнительный указ объяснил, что Трамп планировал разработать «секретный процесс бенчмаркинга», который будет оценивать передовые возможности моделей ИИ и определять, когда модели должны быть обозначены как передовые ИИ.
Однако, согласно жалобе Protect Democracy, сама база данных не имеет грифа секретности. Несмотря на это, Белый дом отказался делиться подробностями с общественностью. Вместо этого представитель заявил журналистам, что «тот факт, что что-то не является секретным, не означает, что мы будем транслировать это всем».
,
Дополнительно вызывает беспокойство то, что термин «охватываемая передовая модель» не определен, заявила Protect Democracy. Если определение будет слишком узким, некоторые опасные модели ИИ могут ускользнуть, а если оно будет слишком широким, агентства, недавно сокращенные из-за сокращений DOGE, могут быть перегружены, чтобы оценить слишком много моделей одновременно. Без большей ясности общественность «может только надеяться, что эта мощная технология управляется безопасно и в общественных интересах», — утверждает Protect Democracy.
До сих пор база данных была предоставлена только «избранному кругу ИИ-компаний», что исключает значимых заинтересованных сторон, таких как группы по безопасности ИИ, предупреждающие о возникающих социальных рисках, а также более мелкие или развивающиеся ИИ-компании, чей вклад или проверка моделей могут быть столь же критичными.
Protect Democracy регулярно использует запросы по Закону о свободе информации (FOIA) в своей миссии «предотвратить упадок американской демократии в более авторитарную форму правления», говорится в жалобе. Опасаясь, что Трамп захватывает слишком много власти над ИИ, группа направила идентичные запросы FOIA в четыре агентства США, срочно запрашивая только несекретную информацию и прося ускорить рассмотрение их запроса. Пока ни одно агентство не предоставило никаких записей, говорится в жалобе. Ответил только офис Национального директора по кибербезопасности, но он отклонил просьбу группы об ускорении процесса, что Protect Democracy теперь оспаривает как неправомерное.
Конгресс тоже в неведении
Помимо того, что общественность, независимые исследователи, правозащитные группы, инвесторы в ИИ и предприятия во многих отраслях, имеющие отношение к ИИ, остаются в неведении, законодателям также заблокировали доступ к оценке базы безопасности ИИ исполнительной власти.
Это важно, поскольку, по утверждению Protect Democracy, операция Трампа по безопасности ИИ может быть дестабилизирована, если Конгресс не будет действовать согласованно. В настоящее время Конгресс рассматривает вопрос о продлении Закона о совместном использовании информации о кибербезопасности (CISA) 2015 года, который, по-видимому, является единственной правовой основой, позволяющей ИИ-компаниям обмениваться информацией с правительством через GOLD EAGLE, говорится в жалобе.
,
Эти положения являются частью положения CISA, которое однажды истекло, и Конгресс должен вскоре решить, следует ли продлить это положение. Существует разногласие между Палатой представителей и Сенатом относительно крайнего срока голосования по продлению, но самое раннее, когда это может произойти, — 30 сентября, а самое позднее — 11 декабря.
«В любом случае, Конгрессу скоро придется решить, продлевать ли защиту от ответственности CISA, которая, по собственному признанию администрации, поддерживает программу GOLD EAGLE, объявленную администрацией, но которую она еще не объяснила», — говорится в жалобе Protect Democracy. «Действительно, высокопоставленный представитель администрации публично признал на запуске GOLD EAGLE, что без этой повторной авторизации «это усилие находится под фундаментальной угрозой».
Диана Эл-Маллавани, директор программ воздействия и юрисконсульт Protect Democracy, заявила Ars, что «ни Protect Democracy, ни Конгресс не имеют достаточной информации о программе GOLD EAGLE, чтобы принять полностью обоснованное решение о продлении CISA. Нас беспокоит то, что Белый дом ставит Конгресс в положение, когда он голосует за продление CISA, не зная, как работает программа GOLD EAGLE, кто в ней участвует или какое законодательное полномочие используется. Вот почему мы запрашиваем эти записи».
Protect Democracy утверждает, что без этих записей администрация Трампа может избежать ответственности за проверку безопасности ИИ.
«Конгресс не может эффективно контролировать программы, условия и заявленные полномочия которых ему не были показаны», и «суды не могут рассматривать действия, которые они не могут идентифицировать», — говорится в жалобе.
Эл-Маллавани сказала Ars, что если Protect Democracy получит доступ к базе данных, все документы будут опубликованы. Без большей прозрачности список опасений Protect Democracy относительно потенциальной способности Трампа использовать добровольную базу данных в отношении ИИ-индустрии «огромен», — сказала Эл-Маллавани, добавив:
Риски многочисленны, включая риск того, что Белый дом может использовать секретный процесс для принуждения ИИ-компаний к принятию решений, таких как использование ли ИИ для летального автономного оружия и массового наблюдения (как мы видели при столкновении между Пентагоном и Anthropic), для вымогательства у определенных инвесторов и сотрудников политической и финансовой поддержки или наказания других за предполагаемую политическую оппозицию, или для принуждения ИИ-компаний к включению политизированных точек зрения в свои модели — не говоря уже о риске того, что база данных для проверки просто неэффективна, создавая ложное чувство безопасности.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
