В блог-посте в пятницу компания Anthropic подробно рассказала о своей спорной системе водяных знаков, анонсированной ранее на этой неделе в рамках выполнения требований Европейского закона об искусственном интеллекте. Водяные знаки усложнят пользователям возможность выдавать сгенерированный ИИ текст за свой собственный.
Возможно, уже слишком поздно сохранить отношения Anthropic с некоторыми возмущёнными пользователями, которые, судя по всему, уже отменили свои подписки.
В постах на X множество якобы платящих пользователей Claude заявляют о разрыве связей. Математик и ИИ-инфлюенсер Джон Эннис один из них. В субботу он опубликовал скриншот своей отмены и назвал причиной «нелепую идею с водяными знаками» от Anthropic.
Есть бесчисленное множество других пользователей X, утверждающих, что отменили подписку из-за водяных знаков. «Это фигня», — написал один. Другой назвал Anthropic «р-словом» в ответ на один из постов компании о водяных знаках. «Почему я, не являясь гражданином ЕС, должен маркировать свою работу, созданную по платной подписке Claude?» — спрашивает ещё один.
Объяснение Anthropic действительно читается увлекательно, если вы не криптограф и представляли, что единственный способ поставить водяной знак на текст — это, например, грубо заменять некоторые буквы «S» на «$» и тому подобное. Всё совсем не так. «Разница между текстом с водяным знаком и без него не будет заметна читателям», — утверждает Anthropic.
Как отмечает Anthropic, система основана на известной (для некоторых) статье SynthID 2024 года, то есть это та же базовая технология, которую Google использует для своей системы водяных знаков SynthID. Текстовая реализация SynthID от Google кратко — возможно, даже слишком кратко — описана в этом видео от Google:
Если подробнее, то водяной знак в текстовых выводах Claude принимает форму выбора токенов, которые, вероятно, будут предпочтительными в соответствии с секретным ключом — строкой символов, которую Anthropic сравнивает с числом пи по сложности и случайности. Система водяных знаков обычно применяется, когда ставки невысоки, например, в предложении «Сегодня погода была холодной и…», где следующим токеном может быть слово «серой» или, с той же вероятностью, «пасмурной». С другой стороны, в случае «Париж — столица…» система водяных знаков вряд ли сработает, потому что для этой ситуации есть только один «правильный» токен: «Франции».
Ключ направляет эти малозначимые выборы токенов к статистическим «предпочтениям», которые не может обнаружить человек-читатель, отчасти потому, что они зависят от контекста. «Пасмурной» в приведённом примере может быть предпочтением ключа в одной ситуации, но в зависимости от контекста он может предпочесть «серой», и человек никак не сможет узнать, какой вариант будет выбран в тот или иной момент.
В длинном тексте достаточное количество статистически предпочтительных токенов образует водяной знак, и детектор сможет с уверенностью определить, что этот отрывок был сгенерирован Claude. В более коротких текстах или в некоторых видах кода с небольшим количеством неоднозначностей водяной знак может быть менее заметен для системы обнаружения, которая будет доступна в виде API. Anthropic утверждает, что нанесение водяного знака оказывает «пренебрежимо малое» влияние на скорость и стоимость токенов.
Один из примечательных разделов блог-поста Anthropic — это отрывок о редактировании, из которого ясно, что даже если Claude якобы используется только для редактирования текста, написанного человеком, водяной знак может появиться. «В зависимости от длины текста и того, насколько сильно Claude его отредактировал, этих изменений может быть недостаточно, чтобы сделать участие Claude обнаружимым», — говорится в блог-посте. Так что пусть покупатель будет бдителен для всех «редакторов», использующих ИИ.
Как отмечается в статье Insider об отменах подписок Claude, некоторые пользователи Claude признают, что не хотят, чтобы их работа, созданная с помощью ИИ, была обнаружена клиентами и преподавателями, которые ожидают, что работа выполнена человеком.
Но, возможно, эти отмены — лишь временное явление или даже меньше, а не какое-то серьёзное изменение в отношении потребителей к Anthropic. Люди регулярно жалуются на Anthropic и другие ИИ-компании в X и даже заявляют об отмене подписок. В настоящее время некоторые apparent пользователи Claude, утверждающие, что отменили подписку, также ссылаются на недавнюю статью в The Wall Street Journal о прошлых деловых практиках жены генерального директора Дарио Амодеи как на причину своей отмены. Anthropic заявила Business Insider, что с точки зрения количества отмен, которые она наблюдает, после анонса водяных знаков увеличения не произошло.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
