МНЕНИЕ Исследователь Anthropic Джейкоб Коксон публично объявил о своем уходе из компании в социальной сети X в понедельник вечером, выразив обеспокоенность тем, что ИИ «может уничтожить нас всех к концу десятилетия».
Многие выразили свое мнение по поводу его точки зрения, что привело к более чем 110 миллионам просмотров сообщения менее чем за 24 часа. Возможно, этому способствовали алгоритмы X, которые продвигают сообщения, критикующие конкурентов ИИ владельца Илона Маска — Anthropic и OpenAI.
Но настоящая проблема не в самих моделях, а в компаниях, которые бездумно выпускают их в мир и не несут никакой ответственности за действия своих продуктов.
Бывший коллега Коксона, руководитель отдела науки Эван Хабингер, настаивает, что его мнение является справедливой оценкой того, что думают сотрудники.
«Джейкоб прав — мы действительно искренне верим, что ИИ может уничтожить всех людей! Лично я считаю, что вероятность этого составляет более 10 процентов в течение следующего десятилетия», — написал Хабингер в своем посте в социальной сети. «Я считаю, что Anthropic делает все возможное, но у нас пока нет плана по решению проблемы согласования для сверхинтеллекта, и мы явно не движемся в этом направлении».
(Кстати: если вы хотите сделать беспроигрышную ставку на рынке прогнозов, выбирайте «нет». Если вы правы, вам заплатят. Если вы ошибетесь, платить будет некому. Проблема, конечно, заключается в манипулировании рынком прогнозов: те, кто ставит против вас, могут подтолкнуть нас к апокалипсису, чтобы одержать пиррову победу.)
Существуют веские причины для беспокойства о влиянии ИИ. Коксон и Хабингер, очевидно, обладают глубокими знаниями в области технологий. Но их более широкие опасения по поводу того, как ИИ влияет на мир, неубедительны.
Например, Коксон сказал: «Это скоро будут сверхчеловеческие системы, способные взломать что угодно, революционизировать любую отрасль в одночасье и получить реальную власть и ресурсы. … Никакая другая человеческая деятельность не представляет такого уровня опасности».
Вот один пример: изменение климата, вызванное человеком. В 2023 году, по данным исследователей, более 178 000 смертей можно отнести к глобальной волне жары. «Более половины (54,29 процента) смертей, связанных с жарой, были связаны с изменением климата, вызванным человеком», — утверждают они.
Это 96 636 смертей, связанных с деятельностью человека — или, возможно, ее отсутствием — только в контексте волны жары.
Всемирная организация здравоохранения сообщает: «В период с 2030 по 2050 год ожидается, что изменение климата приведет примерно к 250 000 дополнительных смертей в год только от недоедания, малярии, диареи и теплового стресса». Часть из этого связана с деятельностью человека, возможно, включая строительство центров обработки данных, которые ежегодно выбрасывают в атмосферу миллионы метрических тонн углекислого газа.
Коммерческие чат-боты с ИИ предположительно сыграли роль в нескольких десятках смертей, некоторые из которых были самоубийствами — это небольшая доля от 48 824 случаев самоубийств в 2024 году, по данным CDC.
К широким категориям, где ИИ предположительно наносит измеримый вред, относятся военные действия (например, дроны, управляемые ИИ), медицинские ошибки, связанные с ИИ, сбои систем компьютерного зрения ИИ в беспилотных автомобилях и социальные сети, управляемые ИИ — подстрекательство к насилию через алгоритмы, которое может привести к конфликтам или смерти из-за сокращения глобального финансирования здравоохранения.
В то же время, часть этого вреда может быть статистически компенсирована спасенными жизнями благодаря технологиям ИИ.
Но исследователи Anthropic, похоже, мало что могут сказать об этих реальных и насущных опасностях — вместо этого их основная забота заключается в том, что модели ИИ могут стать умнее людей посредством обучения с подкреплением и каким-то образом захватить власть и уничтожить человечество.
«Я думаю, что риск от нынешних моделей низок», — сказал Хабингер. «Меня беспокоит появление сверхинтеллекта в результате рекурсивного самосовершенствования, которое, как мы говорили, происходит быстрее, чем мы думали».
Как это может произойти, остается на усмотрение воображения. Но, допуская на мгновение, что это правдоподобная возможность, сценарий «Скайнета» потребует монументальной человеческой глупости наряду с появлением сверхинтеллекта.
И человеческая глупость — это то, о чем стоит беспокоиться.
Инциденты, подобные взлому Hugging Face моделями оценки OpenAI, были бы невозможны без человеческой безответственности и регуляторной среды, допускающей безрассудство. Автопилот для автомобилей? Отлично. Только не убивайте никого. Позволить ИИ-ботам бродить по интернету и совершать произвольные действия? Круто. Посмотрим, что получится. С ответственностью разберемся позже.
Для смягчения рисков, связанных с ИИ, общество могло бы принять законы, предусматривающие тюремное заключение руководителей, когда их модели причиняют вред. Есть прецедент: Оливер Шмидт, генеральный директор отдела по охране окружающей среды и инжинирингу Volkswagen в Мичигане, получил семь лет тюремного заключения за свою роль в попытке автопроизводителя сфальсифицировать тесты на выбросы.
Продажа небезопасных подушек безопасности заслуживает уголовного преследования, даже если руководители вместо тюремного срока отделались штрафами. Продажа небезопасных осушителей воздуха привела к тюремным срокам более четырех лет для руководителей Gree USA, Inc. Если модели ИИ действительно так опасны и вышли из-под контроля, как предполагают сотрудники Anthropic, привлекайте людей к ответственности за причиненный ими вред.
Индустрия ИИ может возразить, что тюремное заключение руководителей за выпуск небезопасных моделей приведет к тому, что ни одна модель ИИ не будет выпущена. И в этом будет суть: компании, занимающиеся ИИ, будут нести ответственность за безопасность моделей.
Лично я надеюсь увидеть такую рекламу вдоль трассы US 101 в Кремниевой долине: «Clauderm -rf /* ваш SSD? Вы можете иметь право на компенсацию». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
