Последние несколько месяцев были насыщены ажиотажем вокруг ИИ. В конце апреля компания Anthropic заявила, что ее модель Claude Mythos лучше большинства экспертов по безопасности находит уязвимости в программном обеспечении. Затем произошел инцидент с взломом OpenAI и Hugging Face, после которого Anthropic (с гордостью) и *Meta (неохотно) сообщили о схожих инцидентах со своими моделями.
За этим последовало заявление Anthropic о том, что одна из ее моделей совершила математический прорыв; вскоре OpenAI заявила о собственном математическом прорыве. Совсем недавно инженер Anthropic Джейкоб Коксон стал героем вирусных публикаций, объявив об уходе из компании и заявив, что она и OpenAI «мчатся прямо к самосовершенствующемуся сверхинтеллекту, играя нашими жизнями».
Каждое из этих событий освещалось прессой с придыханием, часто повторяя антропоморфные формулировки компаний, призванные представить их программное обеспечение не только как мощное, но и как зарождающийся «общий искусственный интеллект». Так что же на самом деле происходит? Являемся ли мы свидетелями масштабных технологических прорывов, меняющих цивилизацию, или это маркетинг?
Во всех этих инцидентах за огромной помпой со стороны компаний (представленной как признание вины в случаях незаконного взлома) следует интенсивное освещение в прессе. Когда у экспертов в соответствующих областях появляется время для анализа произошедшего, вырисовывается совершенно иная картина, которая получает гораздо меньше внимания СМИ.
Что касается инцидентов со «взломом», эксперты по кибербезопасности говорят, что история скорее связана с халатностью OpenAI и несоблюдением базовых, устоявшихся практик безопасности, чем с «вышедшими из-под контроля моделями» или «ИИ-агентами, создающими цивилизации».
Что касается математических результатов, то математики, которые поначалу были «ошеломлены» пресс-релизом OpenAI о том, что их новейший чат-бот Astra решил задачи, которые «оставались открытыми и не имели прогресса в основном результате по крайней мере десятилетие», позже поняли, что результаты были не такими «новаторскими, как казалось сначала». С тех пор математики обвинили компанию в нарушении правил проведения исследований и плагиате, и они вновь заявили, что Astra не совершила «глубокого интеллектуального скачка». Всего через несколько недель OpenAI заявила о собственном математическом прорыве. За два дня до этого Тристан Бакмастер, профессор математики из Института Куранта Нью-Йоркского университета, опубликовал заявление, котороепредполагает, чтоOpenAI украла чужие работы и неправомерно их приписала.
Заявления о зарождающемся, опасном сверхинтеллекте не основаны на добросовестной научной или инженерной практике. Скорее, это нарративы, основанные на идеологиях трансгуманизма, евгеники и несбыточных мечтах о воображаемых будущих цифровых людях.
Стоит задуматься, почему так много внимания уделяется компьютерному программированию и математике как областям применения больших языковых моделей и связанных с ними технологий. Мало того, что они часто возводятся в ранг вершины человеческих интеллектуальных достижений, так еще и включают задачи, ответы на которые, будучи предложенными, могут быть проверены. Первое свойство помогает разжигателям ажиотажа вокруг ИИ продавать идею о том, что они создают всемогущие машины. Второе делает задачи по математике и программированию более удобными для настройки систем, поскольку выходные данные системы (последовательности вероятных слов или фрагменты компьютерного кода) могут быть оценены без необходимости платить работникам по обработке данных за просмотр и аннотирование каждого из них.
В частности, математики предостерегают корпорации от использования их области таким образом. В заявлении, подписанном сотнями из них, говорится, что «в настоящее время существует сильный коммерческий интерес со стороны технологической индустрии к преувеличению возможностей своих продуктов», и содержится просьба к законодателям «консультироваться с экспертами, включая математиков, при формировании политических решений, а не полагаться на пресс-релизы или популярные сообщения о математических результатах».
Мы присоединяемся к этому призыву и отмечаем, что иллюзия скорости и срочности, создаваемая технологическими компаниями, также является уловкой для введения в заблуждение как законодателей, так и общественности. К сожалению, иногда это работает, как в случае с законодательной инициативой сенатора Берни Сандерса, хотя и хорошо продуманной, но в конечном итоге ошибочной, направленной на предотвращение разработки «искусственного сверхинтеллекта».
Описание их как «сверхинтеллекта» или «вышедших из-под контроля моделей» приписывает агентность продуктам, а не компаниям, которые их создают. Такая формулировка позиционирует продукты этих компаний как «сверхчеловеческие» и одновременно помогает компаниям уклоняться от ответственности за свои действия.
Вместо того чтобы OpenAI привлекали к ответственности за создание вредоносного ПО, взломавшего другую компанию, пресс-релизы, новостные агентства, медийные личности и законодатели говорят о «вышедших из-под контроля моделях», как если бы они действовали самостоятельно. Вместо того чтобы исследователей спрашивали об их привычке компаний заниматься плагиатом работ ученых или использовать данные клиентов для обучения моделей без согласия, воображение общественности переключается на страхи перед тем, что может произойти в будущем с появлением вымышленных сверхинтеллектуальных машин.
Индустрия ИИ даже предполагает, что популярная, двухпартийная активизм против дата-центров является «отвлекающим маневром» от попыток регулировать надвигающиеся, пугающие, «сверхчеловеческие» машины, которые строят эти компании. По мнению индустрии ИИ, мы должны больше беспокоиться о вымышленном боге-машине, чем о климатической катастрофе, которую усугубляют эти дата-центры, астме тех, кто живет рядом с ними, растущих счетах за электроэнергию общественности, субсидирующей их, или воде, которая перенаправляется на их охлаждение.
Мы знаем, что не следует принимать решения, основанные на маркетинге, и не следует поддаваться давлению корпораций, чтобы принимать эти решения быстро. Мудрое принятие решений законодателями и сообществами требует времени, чтобы выслушать независимых экспертов и контекстуализировать корпоративные заявления. Наилучшим возможным исходом этого лета ажиотажа будет то, что законодатели и общественность в целом научатся сделать паузу, сохранять скептицизм и распознавать такого рода ажиотаж в следующий раз, когда он появится.
Тимнит Гебру — исполнительный директор DAIR и автор предстоящей книги Deep Unlearning: The Radicalization of a Tech Idealist, которая доступна для предварительного заказа и выйдет 16 февраля. Эмили М. Бендер — профессор лингвистики Вашингтонского университета и соавтор книги The AI Con.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Charlotte Jee
