Компания взяла на себя обязательство следовать открытому стандарту под названием C2PA, который добавляет в метаданные четкий сигнал о том, что изображение было сгенерировано с помощью ИИ. OpenAI также сотрудничает с Google для внедрения невидимого водяного знака под названием SynthID, который будет сложнее обнаружить, но также сложнее удалить, если злоумышленники попытаются скрыть свои следы.
Новые меры защиты применяются только к изображениям, созданным продуктами OpenAI, поэтому они не повлияют на поток изображений, поступающих от менее надежных инструментов ИИ; они могут помочь гарантировать, что OpenAI не является частью проблемы.
OpenAI также представляет предварительную версию общедоступного инструмента верификации, который будет проверять оба сигнала, позволяя пользователям легко проверить, было ли изображение сгенерировано с использованием ИИ. Изначально инструмент будет распространяться только на изображения, созданные продуктами OpenAI; компания надеется со временем расширить его охват на другие инструменты.
Коалиция за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity, C2PA), основанная в 2021 году, является некоммерческой организацией, занимающейся смягчением пагубного воздействия изображений, созданных ИИ, на общественный дискурс. Стандарт C2PA был принят в ряде продуктов Google, но его внедрение в отрасли остается непоследовательным. Поскольку сигнал C2PA четко доступен в метаданных каждого файла, его можно манипулировать, и он наиболее полезен среди доверенных пользователей.
SynthID — это более новая разработка, призванная стать более надежной мерой противодействия вмешательству. Водяной знак SynthID, разработанный Google, призван сохраняться даже тогда, когда злоумышленники пытаются его удалить, будь то с помощью скриншотов, изменения размера или цифровой манипуляции.
Эти две системы призваны дополнять друг друга, каждая из них устраняет слабости другой.
«Водяные знаки могут быть более устойчивыми к таким преобразованиям, как скриншоты, в то время как метаданные могут предоставить больше информации, чем один только водяной знак», — отметила OpenAI в своем анонсе. «Вместе они делают происхождение более устойчивым, чем любой из слоев по отдельности».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
