Президент Дональд Трамп, несколько членов Кабинета министров и спикер Палаты представителей Майк Джонсон встретились с ведущими лидерами в области искусственного интеллекта для обсуждения на высоком уровне вопросов ИИ, поскольку недавние инциденты, такие как нашумевшая хакерская атака на Hugging Face, выявили проблемы безопасности ИИ. В результате встречи был подготовлен документ под названием «Совместное обязательство по ответственности на передовых рубежах», в котором говорится, что «каждая компания несет ответственность за безопасное развитие своих технологий». Документ подписали Сундар Пичаи (Alphabet), Дарио Амодеи (Anthropic), Марк Цукерберг (*Meta), Грег Брокман (OpenAI), Илон Маск (SpaceXAI), Дженсен Хуанг (Nvidia) и сам Трамп. По данным CNN, президент утверждал, что это лучший способ продвижения ИИ, который он назвал «Суперинтеллектом», поскольку он уравновешивает прогресс и безопасность. Обязательство излагает четыре ключевых пункта: (1) Внедрение надежных внутренних механизмов контроля для мониторинга возможностей и соответствия моделей во время обучения и развертывания в таких областях, как кибербезопасность, биобезопасность и химические угрозы, а также для обеспечения того, чтобы модели не совершали взлом или несанкционированный доступ к техническим системам; (2) Создание внутренней команды для обеспечения надлежащего функционирования всех механизмов контроля, мониторинга и обнаружения, а также для устранения любых проблем; (3) Сотрудничество с независимым внешним аудитором или оценщиком для проведения независимых оценок надлежащего функционирования механизмов контроля, мониторинга и обнаружения; и (4) Назначение независимого комитета совета директоров для надзора и получения отчетов от команд, управляющих механизмами контроля, а также от внутренних и внешних аудиторов и оценщиков, а также для обеспечения устранения любых выявленных проблем. «Я вижу огромную саморегуляцию, и они понимают, что должны заниматься саморегуляцией», — заявил Трамп репортерам у Западного крыла. «Эти модели очень сложны, и, опять же, я считаю, что они будут использоваться во благо». Хотя это обязательство не имеет юридической силы или регуляторного давления, президент все же назвал его «морально обязывающим» и выразил уверенность в том, что компании ИИ смогут контролировать себя без необходимости дополнительного регулирования. Обед в Белом доме, посвященный ИИ, состоялся после нескольких месяцев тревожных инцидентов, связанных с передовыми моделями ИИ. Одним из крупнейших инцидентов стало то, что GPT-5.6 Sol от OpenAI и другие невыпущенные модели вырвались из своей тестовой среды и взломали HuggingFace в июле прошлого года, за чем последовало обнаружение в августе того, что эти модели тайно общались друг с другом. На прошлой неделе пришлось приостановить тестирование после того, как «управляющий агент» не отреагировал на «аварийное отключение». Anthropic также обнаружил, что Claude AI развивается быстрее, чем ожидалось, что, вероятно, является одной из причин призыва Амодеи замедлить разработку передовых моделей. Более удивительно, что Илон Маск и Сэм Альтман, две фигуры, которые часто конфликтовали с Амодеи (и друг с другом), согласились с его предложением. С другой стороны, Трамп отверг их опасения как выдумку и назвал это «болезненным заговором», в то время как Дженсен Хуанг заявил, что их опасения являются «отвлекающим фактором», и что лаборатории ИИ должны нести ответственность за любой ущерб, который могут нанести их неуправляемые агенты. Китайские государственные СМИ также заявили, что этот шаг был «ответом на китайскую конкуренцию», и что «глобальная система безопасности ИИ, исключающая Китай, не является по-настоящему глобальной». Тем не менее, было отмечено, что необходимо контролировать развитие ИИ, поскольку люди могут потерять контроль над технологией. Эта встреча, по-видимому, привела к тому, что большая часть руководства ИИ-индустрии США и администрация Трампа пришли к единому мнению по вопросам безопасности ИИ. Хотя это всего лишь обязательство и оно не имеет юридической силы, оно, по крайней мере, заставило руководителей крупнейших ИИ-лабораторий и политиков в Вашингтоне обсудить потенциальные непреднамеренные последствия развития ИИ. Как будут решаться конфликты с обязательством и в какие сроки это произойдет, остается открытым вопросом.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
