Заявление короля на саммите, проходившем в Дамфрис-хаусе, поместье XVIII века в Эршире, принадлежащем благотворительному фонду короля Карла, было примечательным, поскольку королевская семья обычно по конституционным причинам избегает глубокого погружения в политические вопросы, а ИИ является одной из самых острых тем в мире прямо сейчас. Король призвал присутствующих лидеров найти способ контролировать ИИ «пока не стало слишком поздно», добавив, что быстрое развитие этой технологии и ее «суть» вызывают «интригу и глубокую обеспокоенность».
«ИИ уже демонстрирует огромный потенциал для улучшения и спасения жизней», — сказал он, приведя в пример медицину и науку. «Однако те, кто создал эти технологии, теперь все чаще предупреждают, что ИИ рискует развить более темные способности, возможно, даже отнимать жизни». Это заявление прозвучало всего через несколько дней после того, как исследователь Anthropic уволился, написав в интернете, что ИИ-компании «стремятся создать машины, которые намного умнее любого человека», и что человечество «может этого не пережить».
Король продолжил, заявив о необходимости срочно рассмотреть «экзистенциальные опасности» того, что произойдет, если эта технология попадет не в те руки и будет использована «потенциально катастрофическими способами».
«Неужели нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — спросил он. Завершая свою речь, король Карл призвал лидеров найти способ использовать преимущества ИИ и выработать международное сотрудничество и консенсус для достижения этой цели. (Это заявление прозвучало после того, как Anthropic ограничил доступ к своим моделям Fable и Mythos только для клиентов из США, вызвав шок в европейской технологической среде и заставив многих задуматься о концепции суверенитета в области ИИ).
«Задача, стоящая перед вами, заключается не просто в развитии технологий, а в обеспечении того, чтобы они оставались прочно на службе человечества, общества и природы», — сказал он, завершая свою речь. «Принимая новое, мы не должны терять вечное».
Издания сообщают, что он пробыл около 20 минут, оставив гостей обсуждать эти вопросы между собой. На саммит короля от OpenAI прибыла финансовый директор Сара Фрайар, а от Anthropic — Тино Куэльяр, руководитель отдела по глобальным вопросам. Получив комментарий, Куэльяр заявил, что компания была удостоена чести принять участие в обсуждении и благодарна королю за «созыв лидеров отрасли и представителей всего общества для обсуждения роли ИИ в служении общественному благу».
Это не первый раз, когда король Карл говорит о проблемах и преимуществах ИИ; он делал это в 2023 и 2024 годах. Однако этот саммит особенно своевременен, поскольку ИИ продолжает доминировать во всех отраслях, темах и формах общения. В этом месяце Сэм Альтман из OpenAI, Илон Маск и Дарио Амодеи из Anthropic призвали к замедлению развития ИИ, но Дженсен Хуанг из Nvidia и президент Дональд Трамп быстро отвергли эти призывы. «Мы опережаем Китай в области ИИ», — заявил президент. «Мы самая развитая страна в мире, и, честно говоря, я хочу сохранить это, потому что кто бы ни выиграл в ИИ, тот выиграет».
Это показывает, насколько сложным стал вопрос, поскольку сталкиваются интересы крупных технологических компаний, политики и общества. В течение последнего года OpenAI и Anthropic намекали на блокбастерные IPO, хотя OpenAI недавно заявила, что ее планы по IPO отложены на этот год из-за сохраняющихся опасений по поводу безопасности ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dominic-Madori Davis
