В начале этого месяца Anthropic начала размещать невидимую метку на всех текстах, созданных с помощью своей модели ИИ Claude, чтобы служить индикатором того, что материал был сгенерирован искусственным интеллектом. Те, кто не хочет, чтобы стало известно об использовании ИИ в работе, теперь проводят часы в поисках способов удалить этот маркер из своих результатов.
Как отмечает Business Insider, термин “удаление AI-водяных знаков” начал набирать популярность в Google, показав рост поискового интереса на 60% по сравнению с предыдущей неделей, а проект с открытым исходным кодом на GitHub под названием Watermarks Remover собрал более 15 000 “звезд” и тысячи форков, обещая очищать любые результаты от признаков их происхождения из ИИ. Сабрина Рамонова, преподаватель в области ИИ, создала собственный веб-инструмент для очистки текста от остаточных маркеров модели.
В чем же причина паники? По словам создателя инструмента Watermarks Remover, это вопрос приватности и атрибуции. “Я полностью за атрибуцию контента, — заявил Business Insider Гийом Мейер, создатель популярного GitHub-проекта. — Я против техники нанесения водяных знаков, и это очень важное различие”.
Вероятно, справедливо будет сказать, что AI-водяной знак создаст в сознании многих людей ложную бинарность. Если какой-то контент несет невидимый маркер, они просто предположат, что весь этот материал был создан с помощью Claude, хотя возможно, что лишь небольшая его часть была сгенерирована ИИ. И это при том, что люди и так уже пытаются обвинять других в использовании ИИ. Достаточно взглянуть на то, насколько популярными стали Pangram и другие так называемые инструменты “детекции ИИ”, чтобы понять, насколько опасным может быть что-то подобное (хотя по большей части ставки невелики и сводятся не более чем к “пристыжению за ИИ”).
Кроме того, существует опасение, что, нанося этот маркер на контент, Anthropic и другие компании, внедряющие аналогичные водяные знаки, могут закладывать основу для заявления прав на определенный материал. Anthropic, похоже, учла это и упомянула в блоге, что “водяной знак помогает лишь проверить, мог ли Claude создать или обработать контент. Он ничего не говорит о правах собственности или авторстве и не меняет прав пользователя в соответствии с нашими условиями”. Конечно, это верно только до тех пор, пока не перестанет быть верным. Запись в блоге не имеет обязательной силы.
Единственное, что можно сказать наверняка, — игра в кошки-мышки, скорее всего, продолжится. Anthropic внедряет свой водяной знак для соблюдения Закона ЕС об ИИ, который требует от поставщиков систем ИИ создания методов “маркировки” результатов. Но в настоящее время нет никаких правил, запрещающих удалять этот водяной знак. И люди искали способы очищать AI-контент от этих индикаторов с самого начала — существуют десятки инструментов, якобы предоставляющих аналогичные методы очистки и для AI-сгенерированных изображений и видео.
Вот вопрос: как вы думаете, сколько из этих инструментов были созданы с помощью ИИ?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
