Общая траектория развития систем общего искусственного интеллекта (ИИ) остается «глубоко неопределенной», даже несмотря на то, что широкое распространение этой технологии генерирует новые эмпирические данные о ее воздействии, говорится во втором «Международном отчете о безопасности ИИ». Опубликованный 3 февраля 2026 года, отчет охватывает широкий спектр угроз, исходящих от систем ИИ — от его воздействия на рабочие места, человеческую автономию и окружающую среду до потенциальных сбоев или злонамеренного использования — которые будут использованы для информирования дипломатических дискуссий на предстоящем саммите по влиянию ИИ в Индии. Опираясь на предыдущий отчет, выпущенный в январе 2025 года, который был заказан после первого саммита по безопасности ИИ, проведенного правительством Великобритании в Блетчли-парке в ноябре 2023 года, последний отчет также подчеркивает высокую степень неопределенности относительно того, как будут развиваться системы ИИ, и какие меры смягчения последствий будут эффективны против ряда проблем. «Как и почему модели общего ИИ приобретают новые возможности и ведут себя определенным образом, часто трудно предсказать даже разработчикам. «Пробел в оценке» означает, что одних только результатов тестов не может надежно предсказать реальную полезность или риск», — говорится в отчете, добавляя, что системных данных о распространенности и серьезности вреда, связанного с ИИ, по-прежнему недостаточно для подавляющего большинства рисков. «Неясно, будут ли текущие меры безопасности достаточно эффективны для более мощных систем», — добавляется в отчете. «В совокупности эти пробелы определяют пределы того, что любая текущая оценка может уверенно утверждать». Далее отмечается, что, хотя возможности общего ИИ улучшились за последний год благодаря «масштабированию во время вывода» (техника, позволяющая моделям использовать больше вычислительной мощности для генерации промежуточных шагов перед предоставлением окончательного ответа), общая картина остается «неровной»: ведущие системы преуспевают в одних сложных задачах, но терпят неудачу в более простых. Относительно дальнейшего развития ИИ до 2030 года авторы говорят, что вероятные сценарии сильно различаются. «Прогресс может застопориться на текущих уровнях возможностей, замедлиться, оставаться стабильным или резко ускориться способами, которые трудно предсказать», — говорится в отчете, добавляя, что, хотя «беспрецедентные» инвестиционные обязательства предполагают, что ведущие разработчики ИИ ожидают дальнейшего роста возможностей, непредвиденные технические ограничения — включая энергетические ограничения, нехватку высококачественных данных и узкие места в производстве чипов — могут замедлить прогресс. «Социальное воздействие определенного уровня возможностей ИИ также зависит от того, как и где развертываются системы, как они используются и как реагируют различные участники», — говорится в отчете. «Эта неопределенность отражает трудность прогнозирования технологии, влияние которой зависит от непредсказуемых технических прорывов, меняющихся экономических условий и различных институциональных реакций».
Системные воздействия
Касательно системного воздействия на рынки труда, отчет отмечает, что существуют разногласия относительно масштабов будущих последствий: одни ожидают, что потери рабочих мест будут компенсированы созданием новых, а другие утверждают, что широкое внедрение значительно сократит как занятость, так и заработную плату. Добавляется, что, хотя для окончательной оценки последствий еще слишком рано, первые данные свидетельствуют о том, что младшие должности в таких областях, как написание текстов и перевод, находятся под наибольшим риском. В связи с этим отмечается, что существуют также риски, связанные с системами человеческой автономии, поскольку зависимость от инструментов ИИ может ослабить навыки критического мышления и память, а также способствовать предвзятости к автоматизации. «Это связано с более широкой тенденцией «когнитивной разгрузки» — делегирования когнитивных задач внешним системам или людям, что снижает собственную когнитивную активность и, следовательно, способность действовать автономно», — говорится в отчете. «Когнитивная разгрузка может освободить когнитивные ресурсы и повысить эффективность, но исследования также указывают на потенциальные долгосрочные последствия для развития и поддержания когнитивных навыков». В качестве примера в отчете приводится одно исследование, в котором показано, что способность врача обнаруживать опухоли без помощи ИИ снизилась на 6% всего через три месяца после внедрения поддержки ИИ. Относительно последствий для неравенства доходов и благосостояния, в отчете говорится, что системы общего назначения могут усугубить разрыв как внутри стран, так и между ними. «Внедрение ИИ может перераспределить доходы от труда к владельцам капитала, таким как акционеры компаний, которые разрабатывают или используют ИИ», — говорится в отчете. «В глобальном масштабе страны с высоким уровнем дохода, имеющие квалифицированную рабочую силу и сильную цифровую инфраструктуру, вероятно, быстрее получат выгоду от ИИ, чем страны с низким уровнем дохода. «По оценкам одного исследования, влияние ИИ на экономический рост в развитых странах может быть более чем в два раза больше, чем в странах с низким уровнем дохода. ИИ также может снизить стимулы для аутсорсинга трудоемких услуг, делая внутреннюю автоматизацию более рентабельной, что потенциально ограничивает традиционные пути развития». Прогноз о том, что ИИ, вероятно, усугубит неравенство, сократив долю всех доходов, идущую работникам по сравнению с владельцами капитала, соответствует оценке влияния ИИ на неравенство, проведенной Международным валютным фондом (МВФ) в январе 2024 года, согласно которой эта технология «вероятно, усугубит общее неравенство», если политики не будут активно работать над предотвращением разжигания социальных напряженностей. Глава JPMorgan Джейми Даймон выразил аналогичную обеспокоенность на Всемирном экономическом форуме 2026 года, предупредив, что быстрое внедрение ИИ в обществе вызовет «гражданские беспорядки», если правительства и компании не будут работать вместе над смягчением его воздействия на рынки труда.
Проблемы сбоев и потери контроля
Что касается потенциала злонамеренного использования ИИ — который охватывает такие угроги, как кибератаки, его потенциал для «влияния и манипулирования», а также последствия контента, сгенерированного ИИ, — отчет гласит, что его «трудно оценить» из-за отсутствия системных данных об их распространенности и серьезности, несмотря на выгоду от причинения вреда. В отношении рисков сбоев, которые включают проблемы, связанные с надежностью ИИ и потерей человеческого контроля над ним, отчет добавляет, что агентные системы, способные действовать автономно, затрудняют вмешательство людей до возникновения сбоев и могут позволить «опасным возможностям» остаться незамеченными до развертывания. Однако отмечается, что, хотя системы ИИ еще не способны создавать сценарии потери контроля, в настоящее время недостаточно доказательств, чтобы определить, когда или как они пересекут этот порог.
Пробелы в доказательствах
Согласно отчету, очевидно, что необходимы дальнейшие исследования для понимания распространенности различных рисков и степени их различий в разных регионах мира, особенно в таких регионах, как Азия, Африка и Латинская Америка, которые быстро цифровизируются. «Существует нехватка данных о том, как измерять серьезность, распространенность и временные рамки возникающих рисков; степень, в которой эти риски могут быть смягчены в реальных условиях; и как эффективно поощрять или обеспечивать соблюдение мер по смягчению последствий среди различных участников», — говорится в отчете. «Некоторые меры по смягчению рисков набирают популярность, но требуется больше исследований, чтобы понять, насколько надежны меры по смягчению рисков и меры безопасности на практике для различных сообществ и участников ИИ (включая малые и средние предприятия). «Кроме того, усилия по управлению рисками в настоящее время сильно различаются среди ведущих компаний, занимающихся ИИ», — продолжает он. «Утверждалось, что стимулы разработчиков не соответствуют тщательной оценке и управлению рисками». В отчете отмечается, что, хотя компании, занимающиеся ИИ, взяли на себя ряд добровольных обязательств, включая «Добровольные обязательства по безопасности передового ИИ», взятые фирмами, занимающимися ИИ, и Сеульскую декларацию о безопасном, инновационном и инклюзивном ИИ, подписанную правительствами на саммите по ИИ в Сеуле, существует дальнейший пробел в данных относительно «степени выполнения различных добровольных обязательств, препятствий, с которыми сталкиваются компании при полном соблюдении обязательств, и того, как они интегрируют … системы безопасности в более широкую практику управления рисками ИИ». Отчет добавляет, что ключевые проблемы включают определение того, как приоритизировать разнообразные риски, связанные с общим ИИ, выяснение того, какие участники лучше всего подходят для их смягчения, и понимание стимулов и ограничений, которые формируют действия каждого из них. «Данные свидетельствуют о том, что политики в настоящее время имеют ограниченный доступ к информации о том, как разработчики и развертыватели ИИ тестируют, оценивают и отслеживают возникающие риски, а также об эффективности различных практик смягчения последствий», — говорится в нем. Хотя отчет по безопасности 2025 года более подробно рассматривает риски, связанные с дискриминацией в области ИИ и его склонностью к воспроизведению негативных социальных предубеждений, отчет 2026 года лишь кратко затрагивает этот вопрос, отмечая, что «некоторые исследователи утверждают, что большинство технических подходов к плюралистическому выравниванию не решают, а потенциально отвлекают от более глубоких проблем, таких как системные предубеждения, социальные силовые динамики и концентрация богатства и влияния». Хотя в отчете 2025 года отмечается, что «целостный и партисипативный подход, включающий разнообразные точки зрения и заинтересованные стороны, необходим для смягчения предвзятости», в отчете 2026 года лишь говорится, что подходы с открытым исходным кодом имеют решающее значение для «обеспечения участия мирового большинства в разработке ИИ». «Без такого доступа сообщества в регионах с низким уровнем ресурсов рискуют быть исключенными из выгод ИИ», — говорится в нем, добавляя, что разрешение разработчикам последующих этапов дорабатывать модели для различных приложений, которые, например, адаптируют их для недостаточно представленных языков меньшинств или оптимизируют производительность для конкретных целей, «может позволить большему числу людей и сообществ использовать ИИ и получать от него выгоду, чем это было бы возможно в противном случае».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sebastian Klovig Skelton
