Проблема, по-видимому, возникла из-за функции «общий чат» (share chat) в Claude, которая позволяет пользователям создавать ссылки, дающие любому обладателю URL‑адреса доступ к просмотру беседы или проекта. «Любой, у кого есть ссылка, может просматривать», — предупреждает интерфейс Claude. Этот текст явно подразумевает, что функция в первую очередь предназначена для того, чтобы пользователи могли делиться своими чатами с друзьями, коллегами и небольшими группами, а не со всем интернетом. Например, Google Документы предлагают аналогичную возможность, и такие документы не оказываются в открытом доступе в Google.
Anthropic, похоже, возложила вину за утечку на пользователей. В ответ на вопрос о случившемся компания сообщила TechCrunch, что общие ссылки появляются в результатах поиска только в том случае, если они были опубликованы где-то, где поисковые системы могут их увидеть, например на форуме или в сообщении в соцсетях; компания добавила, что ссылка, отправленная кому-то приватно, остаётся вне поиска.
Пресс-секретарь Эми Ротерхэм в пояснении добавила: «Мы даём людям контроль над тем, делать ли их беседы с Claude публичными, и, следуя нашим принципам конфиденциальности, мы не передаём каталоги чатов или карты сайта поисковым системам, таким как Google. Эти общие ссылки невозможно угадать или обнаружить, если только люди сами не решат ими поделиться. Когда кто-то делится беседой, он делает этот контент общедоступным, и, как и любой другой публичный веб-контент, он может быть заархивирован сторонними сервисами».
Проблема впервые была замечена пользователем Reddit в субботу и впервые освещена 404 Media в понедельник утром.
По состоянию на понедельник днём тестовый поиск TechCrunch в Google по методу, описанному в посте на Reddit, не возвращает никаких результатов, что позволяет предположить, что утечку каким-то образом устранили.
До того, как проблема была исправлена, Futurism сообщил о находке «подробного медицинского отчёта реального пациента, результатов клинических испытаний с именами пациентов, документов с именами и номерами телефонов детей младшего школьного возраста, корпоративных документов, помеченных как „только для внутреннего использования“, и отзывов сотрудников, содержащих личную информацию о работниках».
Среди раскрытых артефактов были код и рабочие заметки. Как минимум в одном случае, сообщил Fortune, чат с пометкой «опубликовано Anthropic» также показывал, как Claude создаёт эротический контент.
Политика использования Anthropic прямо запрещает Claude генерировать откровенно сексуальный контент, и попытки заставить чат-бота создавать материалы вопреки его заявленным правилам — с помощью повторяющихся или творчески сформулированных подсказок — это сценарий, который периодически всплывает в большинстве крупных ИИ-моделей. Пока неясно из раскрытого чата, как именно был сгенерирован соответствующий контент, и Anthropic ещё не ответила на запрос TechCrunch о комментариях по этому конкретному случаю.
Представитель Google Нед Адрианс сообщил TechCrunch: «Ни Google, ни любая другая поисковая система не контролирует, какие страницы становятся общедоступными в интернете, и эти страницы были проиндексированы во многих поисковых системах. Мы предоставляем владельцам сайтов чёткие средства управления, чтобы они могли решать, можно ли сканировать или индексировать страницы, и мы всегда соблюдаем эти указания».
В прошлом году Forbes сообщил о похожей проблеме, когда сотни чатов Claude были проиндексированы поисковыми системами — тогда Google оценил, что было проиндексировано чуть менее 600 бесед, прежде чем страницы исчезли из результатов поиска. Насколько масштаб нынешней утечки соответствует тому, независимо не подтверждено, хотя несколько пользователей сообщили о находке общих бесед с помощью того же типа поискового запроса в Google, который использовался для обнаружения прошлогоднего кэша. Также в прошлом году 404 Media сообщила, что исследователь смог собрать около 100 000 бесед ChatGPT, которые были настроены на публичный доступ.
Чтобы проверить, какие чаты Claude вы настроили как публичные, перейдите в Настройки → Приватность → Общие чаты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lorenzo Franceschi-Bicchierai
