Сама технология была запущена в прошлом году примерно для 4 миллионов авторов YouTube, участвующих в Партнерской программе YouTube, после предварительного тестирования.
Подобно существующей системе YouTube Content ID, которая обнаруживает материалы, защищенные авторским правом, в загруженных пользователями видео, функция обнаружения сходства ищет имитации лиц, созданные с помощью инструментов искусственного интеллекта. Эти инструменты иногда используются для распространения дезинформации и манипулирования восприятием реальности, поскольку они используют дипфейковые образы известных личностей — таких как политики или другие государственные чиновники — чтобы говорить и делать в этих AI-видео то, чего они не делали в реальной жизни.
С помощью новой пилотной программы YouTube стремится сбалансировать свободу самовыражения пользователей с рисками, связанными с технологией ИИ, способной генерировать убедительное сходство с общественным деятелем.
«Это расширение на самом деле касается целостности публичного диалога», — заявила Лесли Миллер, вице-президент YouTube по связям с государственными органами и общественной политике, на пресс-брифинге перед запуском во вторник. «Мы знаем, что риски имитации с помощью ИИ особенно высоки для тех, кто занят в гражданской сфере. Но, предоставляя этот новый щит, мы также проявляем осторожность в том, как мы его используем», — отметила она.
Миллер пояснила, что не все обнаруженные совпадения будут удалены по запросу. Вместо этого YouTube будет оценивать каждый запрос в соответствии с действующими правилами конфиденциальности, чтобы определить, является ли контент пародией или политической критикой, которые являются защищенными формами свободного самовыражения.
Компания отметила, что также выступает за эти меры защиты на федеральном уровне, поддерживая в Вашингтоне законопроект NO FAKES Act, который будет регулировать использование ИИ для создания несанкционированных воссозданий голоса и визуального сходства человека.
Чтобы использовать новый инструмент, соответствующие участники пилотной программы должны сначала подтвердить свою личность, загрузив селфи и удостоверение личности государственного образца. Затем они могут создать профиль, просмотреть появившиеся совпадения и при желании запросить их удаление. YouTube заявляет, что в конечном итоге планирует предоставить пользователям возможность предотвращать загрузку нарушающего контента до его публикации или, возможно, разрешать монетизировать эти видео, аналогично тому, как работает система Content ID.
Компания не подтвердила, какие именно политики или чиновники войдут в число первых тестировщиков, но заявила, что цель состоит в том, чтобы со временем сделать технологию широко доступной.
Эти AI-видео будут маркироваться как таковые, но размещение этих меток непостоянно. Для некоторых метка появляется в описании видео, в то время как видео, посвященные более «чувствительным темам», будут размещать метку в начале видео. Это тот же подход, который YouTube использует для всего контента, сгенерированного ИИ.
«Существует много контента, созданного с помощью ИИ, но это различие на самом деле не имеет существенного значения для самого контента», — пояснил Амджад Ханиф, вице-президент YouTube по продуктам для авторов, комментируя размещение метки. «Это может быть мультфильм, сгенерированный с помощью ИИ. И я думаю, что здесь есть суждение о том, заслуживает ли категория очень заметного предупреждения», — сказал он.
В настоящее время YouTube не сообщает, сколько удалений подобных дипфейков ИИ было выполнено благодаря этой технологии обнаружения дипфейков в руках авторов, но отмечает, что объем удаленного контента на данный момент был «очень небольшим».
«Я думаю, для многих [авторов] это просто осведомленность о том, что создается, но объем фактических запросов на удаление очень, очень низок, потому что большая часть этого оказывается довольно безвредной или дополняющей их общий бизнес», — сказал Ханиф.
Однако это может быть не так в случае с дипфейками политиков, чиновников или журналистов.
Со временем YouTube намерен распространить свою технологию обнаружения дипфейков на другие области, включая узнаваемые голоса и другую интеллектуальную собственность, такую как популярные персонажи.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
