Мнение Генеральный директор Anthropic Дарио Амодеи опубликовал эссе объемом с повесть о риске, связанном со сверхинтеллектуальным ИИ, которого пока не существует.
Это лучшая реклама возможностей суммаризации семейства моделей Claude компании, какую только можно найти.
Суть вкратце: ИИ представляет серьезную угрозу, и необходимо вмешательство для предотвращения катастрофы, но не такое, чтобы регулирование испортило веселье. Вперед, команда.
Угроза ИИ является предметом обсуждений среди технократов уже более десяти лет, а если учесть научно-фантастическую панику, то и дольше. Вспомним 2014 год, когда Илон Маск предупреждал: «С помощью искусственного интеллекта мы призываем демона».
Обеспокоенность Маска можно измерить его инвестициями в xAI.
Светоч в области ИИ Джеффри Хинтон продемонстрировал более убедительный пример беспокойства, уйдя в отставку из Google и выразив сомнения в работе всей его жизни в сфере машинного обучения. Это послание недавно вдохновило инсайдеров индустрии ИИ попытаться лопнуть пузырь ИИ отравленными данными.
Если вас это беспокоит, вы можете найти утешение в том, что Амодеи сделал предсказание, которое не сбылось. В марте 2025 года он сказал: «Я думаю, мы достигнем этого через три-шесть месяцев — когда ИИ будет писать 90 процентов кода». А через 12 месяцев, по его словам, ИИ будет писать практически весь код. Спойлер: у разработчиков-людей все еще есть работа.
Но проблема с эссе Амодеи объемом почти 22 000 слов заключается в его настойчивости представлять тревожное состояние мира через призму ИИ. Если ты молоток, все кажется гвоздем. Если ты глава компании, занимающейся ИИ, то ИИ повсюду и постоянно.
Если вы, скажем, находитесь на улицах Миннеаполиса, Тегерана, Киева, Газы, Порт-о-Пренса или любого другого региона, испытывающего нехватку ресурсов или нестабильность, ИИ, вероятно, не стоит на первом месте в списке ваших угроз. И не будет стоять через год или три.
Амодеи представляет свою предостерегающую историю на основе такого сценария:
Предположим, где-то в мире примерно в 2027 году материализуется буквальная «страна гениев». Представьте, скажем, 50 миллионов человек, все из которых намного способнее любого нобелевского лауреата, государственного деятеля или технолога. Аналогия не идеальна, поскольку эти гении могут иметь чрезвычайно широкий спектр мотиваций и поведения, от полностью покладистых и послушных до странных и чуждых по своим устремлениям. Но пока придерживаясь аналогии, предположим, вы — советник по национальной безопасности крупного государства, ответственный за оценку ситуации и реагирование на нее.
Эта аналогия ненамного лучше дискредитированной теоремы о бесконечных обезьянах, которая гласит, что достаточного количества обезьян с клавиатурами в конечном итоге создадут произведения Шекспира. Конечно, 50 миллионов мозговитых (прокси для моделей ИИ) могут натворить дел, но у советника по национальной безопасности крупного государства есть более насущные и реальные угрозы для рассмотрения.
Если взглянуть на основные причины смертности в 2023 году, ИИ там не фигурирует. Доминирующая категория — болезни системы кровообращения (например, болезни сердца) с 28,5 процента, за ними следуют новообразования (например, рак) с 22,0 процента. Внешние причины составляют 7,0 процента от общего числа. Сюда входит самоубийство — 2,1 процента от общего числа, что фактически является тем, что ИИ может усугубить когда люди пытаются использовать его для решения проблем с психическим здоровьем.
Исследовательская компания Ipsos проводит ежемесячный опрос «Что беспокоит мир», и ИИ там нет. Когда компания в последний раз проверяла глобальные настроения в сентябре 2025 года, главными заботами были: преступность и насилие (32 процента); инфляция (30 процентов); бедность и социальное неравенство (29 процентов); безработица (28 процентов); финансовая/политическая коррупция (28 процентов); и коронавирус (2 процента).
ИИ теперь играет определенную роль в некоторых из этих проблем. Инвестиции в дата-центры ИИ повысили коммунальные тарифы и привели к дефициту DRAM. Строительство этих дата-центров увеличивает спрос на воду — хотя Амодеи утверждает, что это не настоящая проблема. Высокие капитальные затраты могут сопровождаться увольнениями, поскольку компании ищут способы компенсировать их за счет сокращения расходов. А для некоторых профессий ИИ может быть достаточно способен, чтобы автоматизировать часть требований к работе.
Но сосредоточение внимания на опасности и непредсказуемости ИИ упускает суть: это люди допускают это, и именно люди могут этим управлять. Это дебаты о регулировании, которое в настоящее время минимально.
Мы можем выбирать, сколько будет стоить ИИ, решая, можно ли захватывать, отмывать и перепродавать творческую работу без компенсации тем, кто ее создал. Мы можем решить, должно ли правительство субсидировать разработку этих моделей. Мы можем возложить ответственность на создателей моделей, когда модели используются для создания материалов сексуального насилия или когда модели допускают существенные ошибки. Мы можем решить не позволять моделям ИИ принимать решения о ядерном пуске.
Амодеи выделяет некоторые риски, которые более насущны, чем теоретический легион гениальных моделей. «То, о чем стоит беспокоиться, — это уровень концентрации богатства, который разрушит общество», — пишет он, отмечая, что собственный капитал Илона Маска в 700 миллиардов долларов уже превышает примерно 2 процента ВВП, которое составляло состояние Джона Д. Рокфеллера в эпоху позолоченного века.
Он делает это замечание на фоне предположений, что богатство, генерируемое компаниями ИИ, приведет к личным состояниям в триллионы, что вполне вероятно, если пузырь ИИ не схлопнется сам по себе.
Но компаниям ИИ еще предстоит доказать, что они могут получать прибыль, пока модели с открытым исходным кодом набирают обороты. Anthropic, как ожидается, выйдет на прибыльность не раньше 2028 года. Для OpenAI прибыль прогнозируется в 2030 году, если компания доживет до этого времени, после того как сожжет «примерно в 14 раз больше наличности, чем Anthropic», по данным The Wall Street Journal.
Помимо оптимизма Амодеи относительно потенциала выручки, решающее значение имеют деньги. Те, кому не посчастливилось иметь богатство Кремниевой долины, могут развить отвращение к технологическим платформам, контролируемым миллиардерами, которые направляют общественное мнение и подавляют регулирование.
Не будем забывать, что большая часть инвестиций в ИИ была основана на вере в то, что модели ИИ разрушат монополию Google на поиск и рекламу, которая сохраняется из-за отсутствия эффективного антимонопольного регулирования.
Амодеи выступает за осторожный путь, который сосредоточен на запрете Китаю доступа к мощным чипам.
«Я вижу путь к *незначительному* смягчению темпов развития ИИ, который совместим с реалистичным взглядом на геополитику», — пишет он. «Этот путь включает в себя замедление марша автократий к мощному ИИ на несколько лет путем лишения их ресурсов, необходимых для его создания, а именно чипов и оборудования для производства полупроводников».
Его путь избегает более радикального подхода, обусловленного «общественной реакцией против ИИ», которая, по его словам, назревает.
«Самое конструктивное, что мы можем сделать сегодня, — это выступать за ограниченные правила, пока мы выясняем, есть ли доказательства в пользу более строгих», — утверждает Амодеи.
Это не похоже на слова человека, обеспокоенного демоном ИИ. Это звучит как любой бизнес-лидер, желающий минимизировать обременительное регулирование.
Факт в том, что никто не хочет сверхинтеллектуального ИИ, который по определению будет принимать неожиданные решения. В прошлом году, когда агенты ИИ заняли все эфирное время, целью было ограничить их поведение и сделать агентов предсказуемыми и познаваемыми, сделать их подчиненными, а не независимыми, не дать им удалить все ваши файлы и опубликовать ваши пароли на Reddit.
И если сообщаемое замедление прогресса моделей ИИ сохранится, мы сможем сосредоточиться на более насущных проблемах — например, на предотвращении того, чтобы миллиардеры утопили демократию в потоке дезинформации и словесного мусора, сгенерированного ИИ. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
