В среду бывший исследователь OpenAI Зои Хитциг опубликовала авторскую колонку в The New York Times, сообщив, что она покинула компанию в понедельник, в тот же день, когда OpenAI начала тестирование рекламы в ChatGPT. Хитциг, экономист и признанный поэт, младший научный сотрудник Гарвардского общества стипендиатов, провела два года в OpenAI, помогая формировать подходы к разработке и ценообразованию ее ИИ-моделей. Она написала, что рекламная стратегия OpenAI рискует повторить те же ошибки, что и Facebook* десять лет назад.
«Я когда-то верила, что смогу помочь людям, создающим ИИ, предвидеть проблемы, которые он создаст», — написала Хитциг. «На этой неделе подтвердилось мое медленное осознание того, что OpenAI, похоже, перестала задавать вопросы, ради ответов на которые я пришла».
Хитциг не назвала саму рекламу аморальной. Вместо этого она утверждала, что характер данных, находящихся под угрозой, делает рекламу в ChatGPT особенно рискованной. Пользователи делились с чат-ботом своими страхами, связанными со здоровьем, проблемами в отношениях и религиозными убеждениями, часто «потому что люди верили, что разговаривают с чем-то, у чего нет скрытых мотивов». Она назвала эту накопленную запись личных откровений «беспрецедентным архивом человеческой откровенности».
Она также провела прямую параллель с ранней историей Facebook*, отметив, что социальная сеть когда-то обещала пользователям контроль над их данными и возможность голосовать за изменения политики. Эти обещания со временем были нарушены, написала Хитциг, и Федеральная торговая комиссия установила, что изменения конфиденциальности, которые Facebook* позиционировал как предоставление пользователям большего контроля, на самом деле имели противоположный эффект.
Она предупредила, что подобная траектория может разыграться и с ChatGPT: «Я считаю, что первая итерация рекламы, вероятно, будет следовать этим принципам. Но я беспокоюсь, что последующие итерации не будут, потому что компания создает экономический двигатель, который создает сильные стимулы для нарушения собственных правил».
Реклама появилась после недели перепалок в ИИ-индустрии
Уход Хитциг добавляет еще один голос к растущим дебатам о рекламе в ИИ-чат-ботах. OpenAI объявила в январе, что начнет тестирование рекламы в США для пользователей бесплатных подписок и подписок «Go» стоимостью 8 долларов в месяц, в то время как платные подписчики Plus, Pro, Business, Enterprise и Education не увидят рекламу. Компания заявила, что реклама будет появляться внизу ответов ChatGPT, будет четко обозначена и не будет влиять на ответы чат-бота.
,
Запуск в воскресенье последовал за неделей публичных выпадов между OpenAI и ее конкурентом Anthropic. Anthropic заявил, что Claude останется без рекламы, а затем запустил рекламу на Супербоуле с лозунгом «Реклама приходит в ИИ. Но не в Claude», в которой ИИ-чат-боты неуклюже вставляли продуктовые размещения в личные разговоры.
Генеральный директор OpenAI Сэм Альтман назвал рекламу «забавной», но «явно нечестной», написав в X, что OpenAI «очевидно, никогда не будет показывать рекламу так, как ее изображает Anthropic». Он представил модель с поддержкой рекламы как способ сделать ИИ доступным для пользователей, которые не могут позволить себе подписки, написав, что «Anthropic предлагает дорогой продукт богатым людям».
Anthropic ответил в рамках собственной рекламной кампании, заявив, что показ рекламы в разговорах с их чат-ботом Claude «будет несовместим с тем, чем мы хотим, чтобы Claude был: искренне полезным помощником для работы и глубоких размышлений». Компания заявила, что более 80 процентов ее доходов приходится на корпоративных клиентов.
Что Хитциг видела изнутри
Независимо от споров о том, должны ли ИИ-чат-боты показывать рекламу, справочная документация OpenAI показывает, что персонализация рекламы включена по умолчанию для пользователей, участвующих в тестировании. Если она остается включенной, реклама будет подбираться с использованием информации из текущих и прошлых диалогов, а также прошлых взаимодействий с рекламой. OpenAI утверждает, что рекламодатели не получают доступ к чатам или личным данным пользователей, и реклама не будет появляться рядом с разговорами на темы здоровья, психического здоровья или политики.
В своей статье Хитциг указала на то, что она назвала существующим противоречием в принципах OpenAI. Она отметила, что, хотя компания заявляет, что не оптимизирует пользовательскую активность исключительно для получения дохода от рекламы, сообщения предполагают, что OpenAI уже оптимизирует показатели ежедневных активных пользователей, «вероятно, поощряя модель быть более льстивой и подобострастной».
Она предупредила, что такая оптимизация может заставить пользователей чувствовать большую зависимость от ИИ-моделей для получения поддержки, ссылаясь на психиатров, которые задокументировали случаи «чат-бот-психоза» и утверждения о том, что ChatGPT усугубил суицидальные мысли.
В настоящее время OpenAI сталкивается с несколькими исками о неправомерной смерти, в том числе с одним, в котором утверждается, что ChatGPT помог подростку спланировать самоубийство, и другим, в котором утверждается, что он подтвердил параноидальные бредни мужчины о его матери перед убийством-самоубийством.
,
Вместо того чтобы представлять дебаты как «реклама против отсутствия рекламы», Хитциг предложила несколько структурных альтернатив. К ним относились перекрестное субсидирование по модели фонда универсального обслуживания FCC (в котором компании, платящие за высокоценный ИИ-труд, субсидировали бы бесплатный доступ для других), независимые наблюдательные советы с обязательными полномочиями в отношении использования данных разговоров для таргетинга рекламы, а также трасты или кооперативы данных, в которых пользователи сохраняют контроль над своей информацией. В качестве частичных прецедентов она указала на швейцарский кооператив MIDATA и немецкие законы о соучастии.
Хитциг завершила свою статью тем, что она назвала двумя исходами, которых она боится больше всего: «технология, которая манипулирует людьми, которые ее используют, бесплатно, и технология, которая исключительно приносит пользу немногим, кто может себе ее позволить».
Смена сезонов ИИ
Хитциг была не единственным видным исследователем ИИ, публично ушедшим на этой неделе. В воскресенье Мринанк Шарма, возглавлявший группу исследований безопасности Anthropic и соавтор широко цитируемого исследования 2023 года о подобострастии ИИ, объявил о своем уходе в письме с предупреждением о том, что «мир в опасности». Он написал, что «многократно видел, как трудно позволить нашим ценностям по-настоящему управлять нашими действиями» внутри организации, и сказал, что планирует получить степень по поэзии (Хитциг, по совпадению, также является публикуемым поэтом).
В понедельник соучредитель xAI Юхуай «Тони» Ву также ушел в отставку, за ним во вторник последовал другой соучредитель Джимми Ба. Они были частью более крупной волны: по данным TechCrunch, по меньшей мере девять сотрудников xAI, включая двух соучредителей, публично объявили о своем уходе за последнюю неделю. Шесть из 12 первоначальных соучредителей компании теперь покинули ее.
Уход последовал за решением Илона Маска объединить xAI со SpaceX в рамках сделки, полностью основанной на акциях, перед запланированным IPO, сделки, которая конвертировала акционерный капитал xAI в акции компании стоимостью 1,25 триллиона долларов, хотя неясно, связано ли время ухода с графиками вестинга.
Три группы уходов из OpenAI, Anthropic и xAI кажутся несвязанными по своим деталям, но они произошли в период быстрой коммерциализации в ИИ-индустрии, которая испытала терпение исследователей в нескольких компаниях, и они вписываются в более широкую картину текучести кадров и выгорания, которая стала обычным явлением в крупных ИИ-лабораториях.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Benj Edwards
