Стартап Fulcrum оказался в кризисе идентичности, даже работая над ее созданием, позволяя любому имитировать чужой стиль письма.
AI-стартап, основанный в 2025 году и ранее работавший под именем fulcrumresearch.ai, теперь использует fulcrum.inc и его легко спутать с одной из нескольких компаний с названием Fulcrum или его вариациями.
Существуют Fulcrum (withfulcrum.com), Fulcrum (fulcrumapp.com), Fulcrum AI (fulcrumai.us), Fulcrum Digital (fulcrumdigital.com), Fulcrum Labs (fulcrumlabs.ai), Fulcrum (fulcrumpro.com), Fulcrum Insurance Technology (fulcruminsure.app) и, возможно, другие.
Этот Fulcrum предлагает большую языковую модель под названием Echo, которая позволяет генерировать текст в стиле известного автора. Похоже, у Fulcrum нет проблем с корпоративными эхами. Теперь писателям предстоит решить, есть ли у них проблемы с нематериальной имитацией.
“Echo может выполнять любую задачу по написанию текстов, от художественной литературы до непринужденной беседы, в любом выбранном вами стиле”, — заявляет компания, а затем переходит к исследованию того, как работает технология, не затрагивая вопрос о том, представляет ли имитация стиля письма человека какие-либо проблемы.
Среди предложений в Echo Playground для генерации образцов текста — Пол Кристиано, Эмили Дикинсон и Дональд Трамп.
Таким образом, полный спектр литературных достижений: от эксперта по безопасности ИИ до признанного поэта XIX века и мастера слова, подарившего нам “ковфефе”.
Но Echo будет повторять даже стиль не самых известных писак, таких как этот репортер.
Поэтому я передал модели недавнюю редакционную статью, чтобы оценить ее копировальные способности.
Результат был неоднозначным, но лучше, чем сгенерированные ИИ предложения, которые попадали в мой почтовый ящик в течение последних нескольких месяцев. Я задал модели вопрос: “Что вы думаете о возможности того, что ИИ обладает сознанием?” Вот часть ответа, написанного якобы в моем стиле.
Я подозреваю, что дебаты о том, обладает ли ИИ сознанием, менее значимы, чем дебаты о том, прибылен ли ИИ.
Сознание — это слово, которое приглашает к философским размышлениям и приглашениям на TED Talks. Прибыльность — это слово, которое влечет за собой судебные иски от акционеров, если вы ошибетесь.
Если вы спросите последнюю модель *Meta, обладает ли она сознанием, она, вероятно, скажет что-то успокаивающе расплывчатое, обученная на корпусе человеческих увиливаний. Если вы спросите Марка Цукерберга, обладает ли ИИ *Meta сознанием, он, вероятно, скажет что-то о том, что нам нужно сосредоточиться на будущем для всех, потому что это вопрос, который не требует от него обсуждения бизнеса таргетинга рекламы.
Доказательства сознания ИИ в данный момент так же сильны, как и доказательства достоверности Цукерберга как футуролога. То есть, они существуют в основном в пресс-релизах и отчетах о прибылях и убытках.
Ясно одно: программное обеспечение может имитировать аспекты человеческого разговора достаточно хорошо, чтобы вызвать у людей беспокойство, а обеспокоенные люди — ценная аудитория. Если вы можете убедить пользователей, что ваш чат-бот понимает их — или может когда-нибудь — вы можете продать им подписки или, что еще лучше, использовать их внимание для рекламодателей.
Стиль знаком, но сделано много выборов, которые я бы не сделал. Я бы не начинал с “Я подозреваю…” — либо делай, либо уходи. Параллельная конструкция “сознание/прибыльность” неуклюжа. “Приглашения на TED Talks” делает ставку на аллитерацию в ущерб связности — “дискурс” или “болтовня” подошли бы лучше, чем “приглашения”. Я бы не стал писать “корпус человеческих увиливаний” — приятный оборот речи, но ненужный выпад в сторону обучающих данных, когда речь идет об ответе модели, а не о происхождении этого ответа.
Хотя и не по теме, Echo неплохо справился с воспроизведением скептицизма моей редакционной статьи по отношению к *Meta и ее генеральному директору. Абзац, начинающийся с “Доказательства сознания ИИ в данный момент…”, лаконичен и звучит хорошо. Он просто не имеет особого смысла, потому что в тексте нет ничего, что касалось бы прогнозов Цукерберга о будущем или их достоверности. И это не имеет особого отношения к вопросу об ИИ и сознании — теме, к которой я был бы гораздо более пренебрежителен, если бы высказывался.
Как исследование ИИ, Echo является улучшением по сравнению с текстом, генерируемым многими моделями ИИ. Но перевешивают ли полезные применения этой технологии вред, менее ясно.
Генеративные модели ИИ, имитирующие визуальные стили художников, остаются спорными и являются предметом текущих судебных разбирательств. И имитация голоса также вызвала вопросы о правах на публичность и риске обмана. Такие опасения побудили законодателей США предложить NO FAKES Act, который создал бы федеральную защиту от определенных несанкционированных ИИ-сгенерированных реплик голоса или визуального сходства человека.
Если писатели в целом не имеют авторских прав на свой стиль письма, и у них есть ограниченные практические средства для прекращения нежелательной автоматической имитации, когда их опубликованные работы общедоступны, то самой надежной защитой от Echo может быть молчание.®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
