В тот же день, когда OpenAI опубликовала рекомендации по политике, призванные обеспечить пользу ИИ для человечества в случае достижения суперинтеллекта, The New Yorker выпустил масштабное расследование о том, можно ли доверять генеральному директору Сэму Альтману в выполнении самых громких обещаний OpenAI.
Сопоставление этих публикаций может сбивать с толку.
С одной стороны, OpenAI заявила о планах продвигать политику, чтобы «ставить людей на первое место», когда ИИ начнет «превосходить самых умных людей даже при их содействии». Для достижения этой цели компания клянется сохранять «ясное видение» и прозрачность в отношении рисков, к которым она относит мониторинг экстремальных сценариев, таких как системы ИИ, выходящие из-под человеческого контроля, или использование ИИ правительствами для подрыва демократии. Без должного смягчения таких рисков «люди пострадают», — предупредила OpenAI, прежде чем описать, как компании можно доверять в отстаивании будущего, где достижение суперинтеллекта означает «более высокое качество жизни для всех».
С другой стороны, The New Yorker опросил более 100 человек, знакомых с методами ведения бизнеса Альтмана. Издание также изучило внутренние служебные записки и провело с Альтманом более 12 интервью. Полученная статья представляет собой обширный контраргумент, объясняющий, почему общественность может с трудом доверять генеральному директору OpenAI «контролировать будущее» ИИ, какой бы радужной ни казалась картина компании.
В целом инсайдеры изобразили Альтмана угодником, который говорит людям то, что они хотят услышать, стремясь к власти в предполагаемой попытке всегда ставить себя на первое место. Как подытожил один член совета директоров, у Альтмана есть «две черты, которые почти никогда не встречаются у одного человека. Первая — сильное желание угодить людям, нравиться в любом взаимодействии. Вторая — почти социопатическое безразличие к последствиям, которые могут возникнуть в результате обмана кого-либо».
,
Хотя The New Yorker не нашел «дымящегося пистолета», его репортеры изучили сообщения от бывшего главного научного сотрудника OpenAI Ильи Суцкевера и бывшего руководителя отдела исследований Дарио Амодеи, в которых документировалось «накопление предполагаемых обманов и манипуляций». Многие инциденты можно было бы списать по отдельности, но в совокупности оба мужчины пришли к выводу, что Альтман не способствует созданию безопасной среды для передового ИИ, сообщило The New Yorker.
«Проблема с OpenAI, — написал Амодеи, — в самом Сэме».
Обеспокоенная общественность теряет веру в ИИ от OpenAI
Альтман либо оспаривал утверждения в статье, либо заявлял, что забыл о некоторых событиях. Он также объяснял некоторые из своих меняющихся нарративов развивающимся ландшафтом ИИ и признавал, что в прошлом избегал конфликтов.
Но его кажущиеся противоречия становится все труднее игнорировать по мере усиления пристального внимания к OpenAI на фоне растущей зависимости правительств от ее моделей и судебных исков, называющих ее технологии небезопасными.
Возможно, наиболее заметно для общественности, Альтман недавно отошел от позиционирования OpenAI как некоего спасителя, предотвращающего сценарии конца света от ИИ, вместо этого приняв «тон» «бурлящего оптимизма», сообщило The New Yorker.
Рекомендации по политике иногда перекликаются с этим. Обсуждая рекомендации, которые включают эксперименты с сокращением рабочей недели и создание государственного фонда благосостояния для распределения прибыли от ИИ, главный директор по глобальным связям OpenAI Крис Ленейн подтвердил The Wall Street Journal, что компания крайне обеспокоена негативным общественным мнением об ИИ. Анонсируя свои великие идеи по спасению человечества от опасностей ИИ, OpenAI также продвигала «пилотную программу стипендий и целевых исследовательских грантов на сумму до 100 000 долларов и до 1 миллиона долларов в виде кредитов API для работ, основанных на этих и связанных с ними политических идеях».
,
Однако отчет The New Yorker облегчает сомнения в том, не были ли рекомендации обнародованы, чтобы отвлечь внимание от растущих опасений общественности по поводу безопасности детей, вытеснения рабочих мест или энергоемких центров обработки данных. Недавний опрос Гарварда/MIT показал, что наибольшее беспокойство американцев вызывает то, что обеспечение работы ИИ навредит их качеству жизни, сообщило Axios сообщило. В конечном счете, эти опасения могут повлиять на голоса демократов и республиканцев в преддверии промежуточных выборов, отметила WSJ, поскольку моратории на центры обработки данных, которые могут замедлить развитие ИИ, набирают обороты.
Для Альтмана и его компании убедить общественность принять их видение ИИ на этом критическом этапе, вероятно, кажется жизненно важным, поскольку потеря контроля республиканцами над Конгрессом может открыть путь для более строгого законодательства о безопасности ИИ, против которого, как отмечал The New Yorker, Альтман тайно лоббировал.
Без доверия к Альтману, вероятно, гораздо сложнее убедить общественность в том, что OpenAI не просто говорит все, что потребуется, чтобы укрепить собственное доминирование, предположил The New Yorker.
Что именно предлагает OpenAI?
«У нас нет всех ответов, или даже большинства», — заявила OpenAI. Вместо этого компания охарактеризовала свою «промышленную политику для эпохи интеллекта» как «начальные идеи для повестки дня промышленной политики, чтобы ставить людей на первое место во время перехода к суперинтеллекту».
Призывая к «здравомысленному» регулированию и государственно-частному партнерству для быстрого внедрения успехов, OpenAI предложила «амбициозные» политические идеи, чтобы гарантировать, что каждый сможет получить доступ к ИИ и извлечь из него выгоду. Ее восторженное видение признавало, что она надеется достичь того, чего общество никогда не достигало: гарантировать доступ к Интернету и обеспечить «справедливое развертывание» ИИ по всей территории США, обучив всех его использованию.
,
Защита работников является одним из направлений плана OpenAI. Рекомендации включали привлечение работников к обсуждению того, как работают системы ИИ для повышения производительности и обеспечения безопасности на рабочих местах, а также того, как «установить четкие пределы вредоносному использованию ИИ». OpenAI также предложила ввести налог на автоматизированный труд, который можно было бы использовать для финансирования основных программ, таких как социальное обеспечение, Medicaid, SNAP и жилищная помощь, по мере того как компании все меньше полагаются на человеческий труд. Среди других заманчивых идей был план «стимулировать работодателей и профсоюзы проводить ограниченные по времени пилотные проекты по четырехдневной рабочей неделе с сохранением оплаты труда, при этом сохраняя неизменными уровни выпуска и обслуживания, а затем преобразовывать высвободившиеся часы в постоянное сокращение недели, накапливаемый оплачиваемый отпуск или то и другое».
Кроме того, OpenAI предложила «государственный фонд благосостояния», который «предоставляет каждому гражданину, включая тех, кто не инвестирует в финансовые рынки, долю в экономическом росте, обусловленном ИИ».
«Доходы от Фонда могут распределяться непосредственно среди граждан, что позволит большему числу людей напрямую участвовать в выгодах от роста, обусловленного ИИ, независимо от их начального благосостояния или доступа к капиталу», — заявила OpenAI.
По мере того как ИИ берет на себя больше задач, люди могут переключиться на работу, ориентированную на заботу, предположила OpenAI, рекомендуя политические идеи, чтобы помочь вытесненным работникам получить обучение для работы в сфере здравоохранения, ухода за престарелыми, детского сада или общественного обслуживания. Чтобы гарантировать, что люди будут привлечены к этим ролям, которые исторически недооценивались как женский труд, OpenAI предложила инициативы, чтобы помочь обществу признать, что уход является «экономически ценной работой».
Человеческий труд также понадобится для использования ИИ для ускорения научных достижений, заявила OpenAI.
Однако все эти общественные блага, которые обещает OpenAI, могут быть реализованы только в том случае, если мы построим «устойчивое общество», способное быстро реагировать на рискованные внедрения и «сохранять ИИ безопасным, управляемым и соответствующим демократическим ценностям», — заявила компания.
,
Этот аспект видения OpenAI требует, чтобы такие фирмы, как OpenAI, разрабатывали системы безопасности, среди прочих усилий, которые помогут укрепить общественное доверие к ИИ. И мы должны доверять, что эти системы будут работать, и вмешиваться в дела этих фирм только тогда, когда назревают реальные опасности, — по-видимому, предполагает OpenAI.
«По мере нашего продвижения к суперинтеллекту может наступить момент, когда узкий набор высокопроизводительных моделей, особенно тех, которые могут существенно способствовать химическим, биологическим, радиологическим, ядерным или кибернетическим рискам, потребует более строгого контроля», — заявила OpenAI.
Когда этот день настанет, по мнению OpenAI, должна существовать глобальная сеть для информирования о возникающих рисках. Однако только фирмы с самыми передовыми моделями должны подвергаться строгим аудитам, чтобы меньшие фирмы могли продолжать конкурировать. Это путь к тому, чтобы ничья доминирующая позиция не была использована для несправедливого устранения конкурентов или ослабления демократических ценностей, заявила OpenAI, настаивая при этом на том, что общественное мнение жизненно важно для успеха ИИ.
Альтман ранее убеждал «общественность, скептически относящуюся к технологиям, в том, что их приоритеты, даже когда они взаимоисключающие, также являются и его приоритетами», — сообщило The New Yorker. Но для общественности, которая уже сообщает о предполагаемом ущербе от моделей OpenAI, может становиться все труднее принимать возвышенные идеи от компании, возглавляемой «величайшим пиарщиком своего поколения», — сообщило The New Yorker.
Один из исследователей OpenAI рассказал The New Yorker, что обещания Альтмана иногда могут показаться временной мерой для преодоления критики, пока он не достигнет следующей вехи. Когда дело доходит до суперинтеллекта, некоторые оптимистичные эксперты считают, что это может занять два года, что дольше, чем Илон Маск оставался в OpenAI, прежде чем знаменито критиковать руководство Альтмана и уйти, чтобы основать собственную фирму по разработке ИИ.
Альтман «создает структуры, которые на бумаге ограничивают его в будущем», — сказал The New Yorker исследователь OpenAI. «Но затем, когда наступает будущее и приходит время быть ограниченным, он избавляется от любой структуры, которая была».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
