Студентам и даже некоторым профессионалам, пытающимся выдать работу, созданную ИИ, за свою, вскоре, возможно, станет сложнее избежать разоблачения.
Компания Anthropic на этой неделе объявила, что начнет добавлять машиночитаемые водяные знаки в контент, созданный ее чат-ботом Claude, включая невидимые метки, встраиваемые непосредственно в сгенерированный ИИ текст.
С этим заявлением Anthropic присоединяется к OpenAI и Google, излагая свои планы по соблюдению требований прозрачности в соответствии с Законом Европейского союза об искусственном интеллекте.
Согласно странице поддержки Anthropic, новые модели Claude, запущенные в ЕС 2 августа или позднее, будут поддерживать систему маркировки с момента запуска. Сгенерированный текст будет содержать встроенные водяные знаки, а поддерживаемые файлы будут нести метаданные происхождения с цифровой подписью.
Но система не ограничится Европой. Anthropic заявляет, что метки будут применяться к поддерживаемым моделям на «платформе Claude (API), Claude, Claude Code, Claude Cowork и Claude Tag, а также везде, где предлагается Claude, по всему миру».
Компания также сообщает, что работает над добавлением маркировки к существующим моделям и планирует предоставить инструменты, которые позволят пользователям и сторонним разработчикам обнаруживать метки Claude.
Что касается текста, Claude будет скрывать обнаруживаемый машиной шаблон непосредственно в генерируемых словах.
«Когда поддерживаемая модель Claude генерирует текст, она вплетает незаметный водяной знак прямо в сам текст. Вы его не увидите, и он не меняет смысл, качество или читаемость ответа Claude», — написала компания.
Поскольку водяной знак встроен в сам текст, он перемещается вместе с текстом при копировании и вставке в другое место и может даже сохраниться после некоторого редактирования.
Тем не менее, есть несколько существенных оговорок.
Anthropic предупреждает, что обнаружение водяного знака лишь указывает на то, что контент мог быть обработан Claude. Поскольку люди также используют Claude для вычитки, перевода, суммаризации или иного редактирования собственных текстов, текст, исходно созданный в другом месте, все равно может нести водяной знак Claude. Маркированный текст также мог быть изменен или объединен с другим материалом после обработки Claude.
Верно и обратное. Отсутствие обнаруживаемого водяного знака не обязательно означает, что что-то не было создано ИИ. Текст, сгенерированный Claude, может потерять сигнал при существенном редактировании, перефразировании, переводе или смешивании с другими текстами. Короткие отрывки также могут не содержать достаточно текста для надежного сигнала.
Anthropic — не первая крупная ИИ-компания, экспериментирующая с таким типом текстовых водяных знаков. Google уже использует свою технологию SynthID для встраивания невидимых водяных знаков в текст, созданный ИИ.
Тем временем OpenAI в настоящее время использует инструменты прозрачности, включая SynthID для изображений и аудио, но пока не объявила публично о системе обнаружения для текста.
Помимо текста, Anthropic также начнет прикреплять метаданные происхождения с подписью к поддерживаемым файлам, таким как .svg, .png и .jpg. Метаданные следуют открытому стандарту Коалиции за происхождение и подлинность контента (C2PA) и могут сигнализировать о том, что файл был обработан Claude, а также был ли он изменен.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
