В недавнем подкасте BBC Смит назвал ИИ «оружием и инструментом», который ставит под угрозу мировую кибербезопасность, и заявил, что «настал момент» для введения глобальных правил безопасности.
Смит также заявил, что именно Великобритания, а не США или Европейский Союз, лучше всего подходит для разработки глобальных правил безопасности. Британский Институт безопасности ИИ (AI Security Institute, AISI), запущенный в 2023 году, получает доступ к основным моделям от передовых американских лабораторий до их развертывания и быстро стал лидером в тестировании безопасности ИИ.
Эта роль находилась под угрозой в последние недели: президент США Дональд Трамп предостерегал против «глобалистских» организаций, которые, по его утверждению, вмешиваются в дела американских компаний. В прошлом месяце он, по сообщениям, просил Anthropic и OpenAI воздержаться от предоставления новых моделей британским тестировщикам, но AISI подтвердил в понедельник, что имеет доступ к новейшим моделям и может их тестировать.
Несмотря на противодействие президента, Смит утверждал, что Великобритания может регулировать ИИ способами, недоступными для США.
«В Вашингтоне люди не смотрят на Великобританию и не смотрят на Лондон так, как смотрят на Брюссель, — сказал он BBC. — Это сила».
Его комментарии прозвучали на фоне призывов со стороны лидеров технологических компаний, включая Дарио Амодея из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы развития ИИ после нескольких инцидентов, когда ИИ-агенты вышли из-под контроля.
В прошлом месяце Трамп принимал в Белом доме руководителей технологических компаний, включая OpenAI, Anthropic, Nvidia, AMD, SpaceX, *Meta и Google, для обсуждения безопасности ИИ. Они подписали «морально обязывающий» документ, в котором согласились сотрудничать с «независимыми аудиторами» для оценки безопасности и возможностей своих ИИ-моделей.
Смит назвал документ «хорошим шагом», но отметил, что он не дотягивает до необходимого уровня регулирования. По его словам, проблема добровольного саморегулирования заключается в том, что ему будут следовать «хорошие компании».
«Нужно беспокоиться о компаниях, которые не так ответственны», — сказал он.
Смит изложил несколько правил безопасности ИИ, которые, по его мнению, должны быть введены, например, юридическое обязательство уведомлять организацию в случае взлома ее системы злонамеренными ИИ-агентами. Он также, по-видимому, выступает за получение одобрения от внешних оценщиков перед выпуском продукта ИИ и положительно отозвался о «кнопках отключения» для приостановки или замедления работы ИИ, если люди потеряют над ним контроль.
«Давайте говорить спокойно, может быть, даже тихо, но твердо, и начнем объединять людей, — сказал Смит. — Я надеюсь, что такую роль мы сможем сыграть как компания. Я надеюсь, что такую роль сможет сыграть Великобритания как страна».
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
