Компании, занимающиеся искусственным интеллектом, скупают огромные объемы физических книг, поглощая тексты для обучения моделей, а затем физически уничтожают оригиналы. В пятницу группа из 18 правозащитных организаций обратилась в Федеральную торговую комиссию США с просьбой расследовать это уничтожение книг и накопление знаний.
Свежие подробности этой практики появились в начале этого года благодаря раскрытию документов в деле Bartz v. Anthropic PBC, иске об авторских правах, поданном авторами книг, которые ИИ-компания использовала для обучения без разрешения.
Операция Anthropic по сканированию и уничтожению книг получила название «Проект Панама». Во внутренней памятке от 2024 года она описывалась как «наша попытка деструктивного сканирования всех книг в мире».
Anthropic присвоила операции кодовое название, «потому что мы не хотим, чтобы стало известно, что мы работаем над этим», — поясняется в судебном документе. «Этот документ доступен всем сотрудникам Anthropic, но вам следует избегать обсуждения его в общественных местах, и тот факт, что мы работаем над этим, не должен разглашаться никому за пределами Anthropic».
Старые книги оказываются ценными для обучения ИИ, поскольку они не загрязнены текстами, сгенерированными ИИ, которые просачиваются в современные письменные работы. А уничтожение книг после сканирования позволяет избежать расходов на хранение.
В некоторых обстоятельствах операции по сканированию и уничтожению могут служить основанием для заявлений о добросовестном использовании. В деле Bartz окружной суд принял аргумент, что физическую книгу можно оцифровать и уничтожить, заменив физическую книгу электронной копией в рамках трансформирующего акта добросовестного использования. Однако для Internet Archive это не сработало.
Anthropic, которая не ответила на запрос о комментарии, не единственная компания, потребляющая и уничтожающая тексты. Недавний отчет показал, что Amazon также участвует в сканировании и уничтожении книг. Amazon также не ответил на запрос о комментарии.
Эта тема стала головной болью для связей с общественностью, отчасти из-за варварства уничтожения книг и его ассоциации с авторитарными режимами, а отчасти из-за широкой негативной реакции на ИИ-компании, разграбляющие общественные ресурсы в погоне за личной выгодой.
Похоже, что посредники тоже ощущают давление. ISBNdb, который, как сообщается, помогал организовывать приобретение книг для деструктивного сканирования, недавно отказался от этой практики. Компания отметила в прошлом месяце: «Мы удалили недавнюю целевую страницу «Поиск печатных книг для нужд вашего набора данных ИИ LLM». Это было частью изучения спроса, и мы решили уйти от этого направления».
В свете этих разоблачений группы гражданского общества хотят, чтобы FTC изучила операции по покупке и уничтожению книг на том основании, что они препятствуют доступу конкурирующих разработчиков ИИ и общественности к этим ресурсам.
«То, как тайно и безрассудно действуют крупные ИИ-компании, такие как Anthropic и Amazon, показывает, что здесь действительно есть дым, который FTC необходимо расследовать», — заявила Кейт О, специальный советник Demand Progress Education Fund, в заявлении, предоставленном The Register.
Письмо групп [PDF] рассматривает операции по сканированию и уничтожению в первую очередь как антиконкурентные — FTC, по идее, является органом по надзору за конкуренцией — но оно намекает на недемократические последствия монополизации знаний.
«Благодаря своей практике массового и необратимого уничтожения книг, лишающей эти невозобновляемые ресурсы широкого доступа, ИИ-компании формируют будущее, в котором только самые богатые игроки смогут создавать высококачественные модели ИИ и выступать в качестве единственных хранителей письменных произведений человечества — после того, как уничтожат оригиналы, чтобы этого достичь», — говорится в письме.
Нам неизвестно, были ли какие-либо тексты полностью перенесены в модели ИИ без сохранения каких-либо физических копий. Но как тогда это можно проверить, учитывая, что ИИ-компании отказываются раскрывать свои обучающие данные?
Письмо просит FTC ответить на этот вопрос: «Что публичный отчет не устанавливает — и не может установить извне — так это то, как часто уничтоженные физические книги были последними или одними из последних сохранившихся копий данного произведения». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
