Британские власти пока не готовы взять на себя обязательства по конкретным мерам в отношении ИИ в законопроекте о кибербезопасности и устойчивости, несмотря на обещания министров принять законодательные меры, где это необходимо.
Неопределенность возникает на фоне предупреждений об угрозах, связанных с автономным ИИ, включая прогноз компании Anthropic о том, что небольшие модели могут быть готовы к работе в качестве самовоспроизводящихся червей на уязвимых смарт-устройствах уже через несколько месяцев.
На этой неделе старшие государственные служащие сообщили членам парламента, что правительство все еще рассматривает поправки к законопроекту для устранения рисков, связанных с ИИ.
Александра Джонс, генеральный директор по росту, международным связям, науке и технологиям Министерства бизнеса, инноваций, науки и торговли, отвечает за “политику в области ИИ и новых технологий”. Однако она сообщила членам парламента, что недавние изменения в структуре правительства оставили Министерство цифровых технологий, культуры, СМИ и спорта ответственным за законопроект о кибербезопасности и устойчивости (сетевых и информационных систем).
“Мы предлагаем… использовать законопроект о кибербезопасности для рассмотрения изменений, направленных на повышение готовности к рискам, связанным с ИИ, кибербезопасностью и потерей контроля… [для] изучения того, как выявляются и сообщаются серьезные инциденты и почти произошедшие сбои, и как сдерживаются сбои, вызванные ИИ, в организациях”, — сказала она.
На слушаниях Комитета по бизнесу, инновациям, науке и торговле во вторник председатель Лиам Бирн прервал ее: “Вы не можете рассматривать что-то в законопроекте. Вы должны законодательно закреплять что-то в законопроекте”.
Министр по вопросам ИИ Канишкa Нараян, входящий в Кабинет министров, на этой неделе объявил о планах “усилить национальную оборону против растущих рисков ИИ”.
“Мы будем использовать все имеющиеся в нашем распоряжении полномочия. Мы будем законодательно закреплять все необходимое. И мы не будем полагаться только на закон. Мы будем полагаться на британскую изобретательность: наш научный опыт, технологические возможности и институты для понимания этих все более мощных систем, защиты от возникающих угроз и реагирования, когда что-то идет не так”, — сказал он.
Отвечая на вопрос о законодательных изменениях, Джонс сказала, что правительство “рассматривает” внесение поправок в законопроект и “разрабатывает политику для изучения того, будем ли мы использовать законопроект о кибербезопасности для этого”.
Великобритания придерживается децентрализованного, отраслевого подхода к регулированию ИИ. Например, Управление комиссара по информации опубликовало принципы, которые оно будет использовать для применения законодательства о защите данных к ИИ. Закон ЕС об ИИ вступил в силу в августе 2024 года, при этом новые полномочия активируются поэтапно. В США нет федерального законодательства, специально направленного на ИИ, хотя некоторые штаты вводят новые законы.
Исследование Anthropic, опубликованное в понедельник, изучало, могут ли модели ИИ копировать себя между устройствами и работать на скомпрометированном оборудовании. Его прогноз экстраполируется на основе улучшения возможностей моделей, а не демонстрирует полностью автономного червя, распространяющегося по реальным устройствам Интернета вещей.
Консалтинговая компания Booz Allen Hamilton также предупредила, что автономные системы ИИ полностью способны находить и атаковать критически важные операционные технологии и промышленное оборудование, а также отключать доступ к воде, электроэнергии и другим предметам первой необходимости.
Ранее исследователи рисков в области ИИ заявили комитету, что разработчикам моделей нельзя доверять саморегулирование, а международные правила должны будут преодолеть укоренившиеся политические разногласия.
Дэниел Кокотаджло, исполнительный директор AI Futures Project, сказал, что его некоммерческая исследовательская организация предложила “наименее плохой план”.
“Не занимайтесь рекурсивным самосовершенствованием. Обеспечьте гораздо большую прозрачность в отрасли и гораздо большее регулирование в отрасли, чтобы она развивалась с соответствующим уровнем прозрачности и осторожности. Мы считаем, что это наименее плохой план, который сейчас есть на рынке. Но у него все еще есть проблемы, и его все равно было бы довольно страшно реализовывать”, — сказал он.
Бирн подытожил показания: “Вы сказали нам, что культура безопасности в отрасли катастрофична, что культура безопасности в отдельных компаниях находится не на должном уровне, что конкурентные отношения между компаниями усугубляют эти риски, что мы не можем доверять этим компаниям саморегулироваться”. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lindsay Clark
