Выдавать работу ChatGPT за свою станет сложнее — по крайней мере, если вы живете в Европейском союзе. В понедельник OpenAI объявила, что начнет вставлять невидимый водяной знак, незаметный невооруженным глазом, но распознаваемый машиной, во все текстовые выходные данные, сгенерированные ее моделями ИИ, включая ChatGPT и ее агент по написанию кода Codex.
Водяной знак позволит OpenAI соответствовать требованиям Закона ЕС об искусственном интеллекте, который требует, чтобы текст, созданный моделями, содержал машиночитаемый идентификатор, помечающий контент как сгенерированный ИИ. По данным компании, водяной знак будет сначала опциональной функцией, и пользователи по всему миру смогут включить ее начиная с сегодняшнего дня. В ближайшие недели водяной знак будет добавлен к «соответствующим текстовым выходным данным ChatGPT и Codex в Европейском союзе», и это не будет опционально — он будет появляться автоматически, без возможности отключения.
Так кто же сможет увидеть водяной знак? По словам OpenAI, исследователям и экспертным организациям будет предоставлен доступ к детектору, который сможет обнаружить невидимый индикатор. OpenAI решила не предоставлять общественности инструмент идентификации на момент запуска из-за риска ложных срабатываний. Вместо этого компания заявила, что доступ будет предоставляться «в индивидуальном порядке» для поддержки оценки.
OpenAI — лишь последняя компания, которая пошла по пути водяных знаков. Anthropic запустила аналогичный машиночитаемый маркер в августе (что привело к тому, что люди немедленно начали искать способы обхода и удаления индикатора ИИ из текста Claude). А Google DeepMind уже пару лет ставит водяные знаки в свои выходные данные. (Удивительно, но Google пошла в обратном направлении, объявив в августе, что пользователи могут удалять водяные знаки с изображений, видео и песен в странах, где это не требуется).
Примечательно, что водяные знаки других компаний применяются (или применялись) к пользователям в Соединенных Штатах. OpenAI этого не делает, несмотря на растущую обеспокоенность в стране по поводу распространения контента, сгенерированного ИИ. Недавний опрос Rainey Center показал, что почти восемь из 10 человек поддерживают требования к водяным знакам ИИ, включая 82% демократов и 75% республиканцев.
Но общественная поддержка не формирует политику, и Соединенные Штаты по-прежнему отстают в федеральном регулировании, связанном с ИИ. Поскольку нет никаких требований к передовым компаниям в области ИИ включать водяной знак, который помогает пользователям и платформам быстро идентифицировать контент, сгенерированный ИИ, у OpenAI нет никакой мотивации проактивно соблюдать несуществующий закон. Оказывается, правила работают, если их просто принять и применять.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
