Процесс обучения ИИ-модели в масштабе превращается в парадокс: чем больше она запоминает, тем меньше помнит об источнике своих воспоминаний.
Специалисты по информатике из Массачусетского технологического института решили найти способ атрибуции вывода ИИ-модели к конкретным обучающим данным в надежде, что понимание этого процесса поможет регулированию ИИ.
То, что они обнаружили, описанное в статье под названием «Outputs of Generative Diffusion Models are Often Unattributable», похоже, на самом деле усложнит регулирование. Научный журнал Nature Communications опубликует статью во вторник.
Авторы, Чжэн Дай и Дэвид К. Гиффорд, сотрудники Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) MIT, отмечают, что диффузионные модели, такие как Midjourney и Stable Diffusion, стали широко используемыми инструментами для генерации артефактов, включая изображения, видео и аудио.
Диффузионные модели также привлекли судебные иски от художников, которые утверждают, что копии их работ, включенные в обучающие данные, позволили ИИ-моделям воспроизводить их результаты и художественный стиль. В одном из таких текущих дел об авторских правах 2023 года, Andersen et al. v. Stability AI Ltd, истцы пытаются убедить суд обязать ответчика Midjourney предоставить наборы данных, использованные для обучения его моделей.
Истцы утверждают, что Midjourney создал свои обучающие наборы данных «путем сбора изображений, связанных с именами конкретных художников, с явной целью дать своей модели возможность имитировать выразительное содержание этих художников».
Возможность атрибутировать вывод модели тому контенту, который был поглощен во время обучения, помогла бы людям понять, как работают модели, и имела бы различные применения, «включая машинное забывание, отравление данных, интерпретируемость модели, справедливость и конфиденциальность», написали Дай и Гиффорд в своей статье.
«Кроме того, учитывая современное использование этих моделей в творческих и коммерческих целях, атрибутируемость также несет этические, политические, финансовые и юридические последствия».
Но, как оказалось, атрибуция вывода модели к конкретному входному сигналу становится тем сложнее, чем больше становятся модели.
«Здесь мы показываем, что атрибуция, характеризуемая как задача поиска части обучающих данных, которая может быть признана ответственной за сгенерированный образец, может стать невозможной, если модель обучена на достаточно большом корпусе данных», — заявляют авторы.
«Мы обнаружили, что чем больше данных обучается модель, тем менее атрибутируемыми становятся ее сгенерированные образцы — феномен, который мы в дальнейшем будем называть затуханием атрибуции».
Авторы проверили это, удалив конкретные обучающие данные с помощью процесса, называемого абляцией. И результат этого тестирования показал, что для очень больших моделей можно удалить, например, изображение Моны Лизы или все работы Леонардо да Винчи — и все же модель сможет воспроизвести это изображение или стиль.
В пресс-релизе MIT Гиффорд утверждает, что результаты показывают, что модели творчески подходят к делу в том смысле, что они не просто копируют свои обучающие данные.
«Если эти результаты не имеют ничего общего ни с одним отдельным фрагментом обучающих данных, это поднимает вопросы о добросовестном использовании, о том, являются ли сами результаты объектами авторского права как новые произведения, и о том, как авторы получают компенсацию, когда то, что выходит из модели, не может быть атрибутировано чему-либо в интернете», — сказал он.
Он также утверждает, что наличие возможности проверить, является ли данный результат производным, создает обязанность для компаний доказывать, что их работа не может быть приписана конкретному источнику.
В то же время исследование предполагает стратегию уклонения от ответственности: сделайте свою модель достаточно большой, чтобы ни один результат нельзя было приписать какому-либо конкретному входному сигналу.
Джеймс Гриммельманн, профессор права в Корнелльской школе права и Корнелльском технологическом институте, заявил в своем заявлении: «Если бы атрибуция работала, она бы надежно говорила нам, связаны ли сходства между выводом модели и произведением, защищенным авторским правом, с копированием или совпадением. Но эта статья дает основания полагать, что атрибуция окажется неработоспособной для интересных моделей. Вместо этого технологам и судам придется прибегать к другим методам оценки копирования».
В электронном письме в The Register Гриммельманн сказал, что текущие иски об авторских правах против ИИ-компаний не были специально сосредоточены на том, в какой степени изображения, похожие на реальные работы художника, могут быть извлечены из модели.
«Немецкие дела касались, по-видимому, запомненных результатов музыкальных моделей, а американские дела касались того, является ли обучение добросовестным использованием, но сходство результатов для моделей изображений в основном остается непроверенным в суде», — сказал он. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
