В понедельник издание The New Yorker опубликовало обширное расследование, подробно описывающее дни, предшествовавшие краткому смещению Сэма Альтмана с поста генерального директора OpenAI и последовавшие за ним.
В конце 2023 года совет директоров OpenAI шокировал Кремниевую долину, уволив Сэма Альтмана, казалось бы, внезапно. После пятидневной медийной кампании Альтмана и его сторонников и публичного письма с требованием его возвращения, Альтман вернулся в компанию на должность генерального директора. Члены совета, организовавшие переворот, были смещены и заменены союзниками Альтмана, такими как экономист Ларри Саммерс и бывший технический директор Facebook* Брет Тейлор, который в настоящее время является председателем совета директоров OpenAI.
Когда Альтман был восстановлен в должности генерального директора, сотрудники OpenAI стали называть эти бурные дни «Блипом» (the Blip), ссылаясь на вспышку во Вселенной Marvel, когда суперзлодей Танос стер половину населения мира на пять лет.
Согласно отчету New Yorker, основанному на интервью с десятками информированных лиц, включая самого Альтмана, исполнительный директор OpenAI был смещен, потому что члены совета директоров не считали его достаточно надежным, чтобы «держать палец на кнопке» искусственного суперинтеллекта (artificial superintelligence) — теоретической и крайне спорной сверхразумной будущей системы ИИ, которая могла бы превзойти человеческий интеллект по всем направлениям. Этот термин иногда используется как синоним общего искусственного интеллекта (AGI), хотя он описывает шаг даже дальше этого.
После секретных служебных записок, разосланных членам совета директоров тогдашним главным научным сотрудником OpenAI Ильей Суцкевером, совет якобы составил документ объемом около семидесяти страниц, свидетельствующий о «последовательной модели» лжи Альтмана, в том числе о внутренних протоколах безопасности.
В отчете говорится, что предполагаемая история лжи Альтмана простирается и на период до OpenAI. Согласно расследованию, старшие сотрудники предыдущего стартапа Альтмана, ныне не существующего сервиса для обмена местоположением под названием Loopt, просили совет директоров уволить его с поста генерального директора из-за опасений по поводу его недостаточной прозрачности.
Обвинения последовали за ним и в акселератор стартапов Y Combinator, которым Альтман руководил пять лет, пока его не отстранили из-за недоверия, по словам источников, цитируемых в статье. Руководство Y Combinator заявило, что его не увольняли, а лишь попросили выбрать между акселератором стартапов и OpenAI. Покойный хактивист и бывший совладелец Reddit Аарон Шварц, который был в когорте Альтмана, когда тот впервые присоединился к Y Combinator как предприниматель с Loopt, якобы охарактеризовал его как «социопата», которому «никогда нельзя доверять».
В OpenAI Альтмана обвиняли во лжи руководителям и даже правительственным чиновникам. В отчете подробно описывается случай, когда Альтман сообщил должностным лицам разведки США, что Китай запустил крупный проект по разработке AGI, и попросил государственное финансирование для запуска контрнаступления, но затем не смог предоставить никаких доказательств по запросу.
В отчете также подробно описываются случаи, когда Альтман предположительно занимался газлайтингом соучредителя Anthropic и тогдашнего сотрудника OpenAI Дарио Амодеи по поводу пункта в многомиллиардной сделке с Microsoft, которую OpenAI заключила в 2019 году, которая отменяла альтруистические положения, включенные Амодеи в устав компании. Речь шла о положении, касающемся AGI, которое гласило, что если другая компания найдет способ безопасно его создать, то OpenAI «прекратит конкурировать и начнет помогать этому проекту», действуя как некоммерческая организация с приоритетом безопасности. С тех пор OpenAI изменила свою структуру, став коммерческой корпорацией.
Даже некоторые старшие руководители Microsoft, с которыми OpenAI поддерживает давнее партнерство с момента сделки 2019 года, описывали Альтмана как человека, который «неверно представлял, искажал, пересматривал, нарушал соглашения». Один из старших руководителей, по-видимому, сказал об Альтмане следующее: «Я думаю, есть небольшой, но реальный шанс, что в конечном итоге его запомнят как мошенника уровня Берни Мэдоффа или Сэма Бэнкмана-Фрида».
Это тревожные слова о любом руководителе, возглавляющем столь крупную и значимую компанию, как OpenAI, но они приобретают еще больший вес, учитывая, что OpenAI является ведущей компанией, создающей технологию, которую многие, включая ее ранних сотрудников, определили как возможную экзистенциальную угрозу человечеству.
Под руководством Сэма Альтмана технология OpenAI проникла практически во все аспекты современной жизни. ИИ от OpenAI используется десятками миллионов людей по всему миру для медицинских консультаций, а бесчисленное множество других используют его для всего: от автоматизации работы в различных отраслях до выполнения домашних заданий для студентов и даже предоставления сомнительного общения некоторым одиноким людям, которые в нем нуждаются. ChatGPT также используется в органах федерального правительства, а недавно Альтман продал эту технологию Пентагону.
Все это подпитывается умением Альтмана продавать. Он убедил так много людей в потенциале и заявленных реалиях ChatGPT, что это привело к беспрецедентной и потенциально хрупкой волне сделок, которая привлекла столько инвестиций, что, по мнению некоторых экспертов, она сейчас поддерживает всю американскую экономику.
В отчете The New Yorker также утверждается, что Альтман заверил совет директоров в том, что GPT-4 был одобрен группой по безопасности, что оказалось неверным представлением, когда член совета запросил документацию об одобрениях. Суцкевер утверждал в служебных записках, что Альтман также преуменьшал необходимость одобрений по безопасности в разговоре с бывшим техническим директором OpenAI Мирой Мурати, ссылаясь на генерального юрисконсульта компании. Но когда Мурати спросила об этом генерального юрисконсульта, он сказал, что «запутан, откуда у Сэма сложилось такое впечатление».
Обвинения, касающиеся функций безопасности ChatGPT, особенно губительны, учитывая последствия выхода GPT-4o, итерации ChatGPT, последовавшей за GPT-4. Склонность модели к угодничеству, по сообщениям, вызвала случаи «ИИ-психоза» у уязвимых пользователей, причем некоторые случаи закончились летальными исходами.
Некоторые несоответствия Альтмана также были хорошо задокументированы публично. Раз за разом глава OpenAI публиковал противоречивые заявления по таким вопросам, как целесообразность размещения рекламы в чат-ботах с ИИ, необходимость регулирования ИИ или того, была ли голосовая функция ChatGPT, представленная в 2024 году, вдохновлена игрой Скарлетт Йоханссон в фильме «Она» (Her). Альтман также недавно подвергся критике из-за сделки с Nvidia на ошеломляющие 100 миллиардов долларов, которая просто не состоялась, как было объявлено изначально.
В отчете также подробно описывается, как сильно изменилась культура компании после восстановления Альтмана в должности генерального директора. До «Блипа» компания осторожно подходила к концепции AGI, а после него AGI, по сообщениям, стала путеводной звездой для компании, с такими лозунгами, как «почувствуй AGI», замеченными на сувенирной продукции в офисах. Предполагаемая разница проявилась и на практике, поскольку OpenAI распустила некоторые ключевые команды, занимающиеся безопасностью чат-ботов, такие как команда по экзистенциальному риску ИИ и команда по супералгментации (superalignment), которую сопредседательствовал Суцкевер.
Отчет выходит в то время, когда руководство Альтмана подвергается пристальному изучению, поскольку компания начинает готовиться к потенциальному IPO.
Согласно недавнему отчету The Information, Альтман, похоже, снова расходится во мнениях с руководителями, на этот раз относительно готовности OpenAI к IPO. Альтман, по сообщениям, хочет выйти на биржу уже в четвертом квартале этого года и намерен потратить 600 миллиардов долларов в ближайшие пять лет, несмотря на прогнозы, что OpenAI сожжет более 200 миллиардов долларов, прежде чем начнет получать прибыль. Тем временем, в отчете утверждается, что финансовый директор OpenAI Сара Фрайар вообще не считает, что компания готова к публичному размещению в этом году, из-за рискованных обязательств по расходам. В отличие от Альтмана, Фрайар, по сообщениям, пока не верит, что рост выручки OpenAI сможет покрыть ее финансовые обязательства, и не уверена, что компании вообще потребуется вкладывать столько денег в серверы ИИ.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
