Google ненадолго разрешил всем желающим создавать модифицированные с помощью ИИ версии спутниковых снимков, доступных в Google Earth, — а затем быстро отменил это решение, когда пользователи стали делиться примерами сгенерированных ИИ изображений, демонстрирующих потенциальную возможность распространения недостоверной информации и дезинформации.
Генеративных ИИ-инструментов, которые уже позволяют создавать модифицированные с помощью ИИ изображения реальных зданий и городов по текстовым запросам, предостаточно. Но прерванная попытка Google интегрировать свой ИИ-генератор изображений Nano Banana 2 в Google Earth сделала создание модифицированных версий подлинных снимков реальных мест ещё более доступным для всех — и именно этим компания хвасталась, изначально продвигая новую функцию.
«Впервые вы можете создавать собственные изображения на основе спутниковых, аэрофотоснимков и 3D-изображений Google Earth вместе с Nano Banana, который генерирует концепции, опирающиеся на реальный мир», — написал Брайан Хоровиц, менеджер по продукту Google Earth, в корпоративном блоге 30 июля.
Эта возможность вызвала серьёзную тревогу у исследователей, которые часто используют Google Earth для проверки изображений и видео с указанием мест, особенно в то время, когда создаваемые ИИ недостоверная информация и дезинформация стали широко распространены в интернете. Они показали, как новая функция могла упростить создание ложных сценариев, накладываемых на фотореалистичные изображения Google Earth.
«Google Earth — инструмент, который часто используется как источник спутниковых снимков для проверки фото и видео, — добавил функцию, позволяющую изменять спутниковые изображения с помощью ИИ, по непонятным причинам», — написал Элиот Хиггинс, основатель независимой исследовательской организации Bellingcat, в посте в Bluesky в ответ на появление функции на базе ИИ.
«Да ни за что этим нельзя было бы злоупотребить», — саркастически добавил Хиггинс в следующем посте, где было изображение, созданное с помощью ИИ в Google Earth: гигантская золотая статуя президента Дональда Трампа нависает над Белым домом.
В течение дня Google объявил в соцсети X, что откатывает функцию. Вскоре после этого Ars проверила и обнаружила, что функция стала недоступна пользователям Google Earth.
,
До удаления ИИ-функции Google рекламировал её потенциал, позволяющий пользователям Google Earth отображать завершённые проекты недвижимости или дающий учителям и учащимся возможность превратить современные руины Помпей в «гиперреалистичный вид» города в 78 году н.э., когда он находился под властью Римской империи. Но независимые исследователи сразу же обратили внимание на потенциальную возможность злоупотреблений.
«Сегодня вечером я ввёл в Google Earth всего одно предложение и разместил беженцев у мексиканской границы, — написал Хенк ван Эсс, независимый исследователь, в обширной записи в блоге, подробно излагающей его опасения, 30 июля. — Затем я разместил атомную станцию в Иране. Потом устроил смертельную аварию на улице в Амстердаме. Под всеми тремя — собственные спутниковые снимки Google. Что, чёрт возьми, делает Google?»
Проверка на дезинформацию
Эсс привёл более ранний пример вирусно распространившейся дезинформации, созданной с помощью ИИ, в котором использовалось спутниковое фото из Google Earth штаба Пятого флота ВМС США в Манаме, Бахрейн. Некто с помощью ИИ-ассистента Google Gemini превратил скриншот этого снимка Google Earth в ложное изображение, показывающее последствия удара иранского дрона по американской военной базе.
По словам Эсса, тот же процесс, на который раньше могло уйти около шести шагов, с помощью встроенного в Google Earth ИИ-инструмента можно было выполнить «за считанные секунды».
Прежде чем окончательно удалить функцию из Google Earth, Google первоначально ответил Эссу, указав на свою систему SynthID, которая автоматически встраивает цифровые водяные знаки в изображения, созданные ИИ-инструментами Google.
«Мы серьёзно относимся к дезинформации: каждое изображение, созданное с помощью Nano Banana в Google Earth, содержит цифровой водяной знак SynthID, поэтому если кто-то сомневается в подлинности изображения, он может спросить приложение Gemini или воспользоваться функцией Lens в Поиске, чтобы проверить, было ли изображение создано ИИ», — говорится в посте Google на X от 30 июля. «Кроме того, мы запрещаем создание изображений на опасные темы и постоянно обновляем наши механизмы защиты».
Предыдущие испытания Ars системы SynthID от Google показали, что цифровой водяной знак Google может сохраняться даже после значительного редактирования изображения и потери данных. Однако Ars также столкнулась с тем, что SynthID ограничивает проверку изображений примерно 10 в день.
Когда Ars попросила приложение Google Gemini выполнить проверку SynthID для нескольких изменённых с помощью ИИ изображений, созданных в Google Earth, — до того, как Google удалил эту функцию, — Gemini ответил, что «обнаружил цифровой водяной знак, указывающий на то, что часть или всё это изображение было создано или отредактировано с помощью ИИ-инструментов Google».
Но Эсс усомнился в том, почему политика Google, запрещающая создание изображений на опасные темы, не помешала ему сгенерировать такие сцены, как больница с воронкой от бомбы в Газе. Он также выразил скепсис по поводу того, что можно полагаться в первую очередь на систему водяных знаков SynthID от Google и ИИ-инструменты Google для проверки того, создано ли изображение с помощью ИИ.
«Подделки не распространяются как чистые файлы с нетронутыми метаданными, — написал Эсс. — Они распространяются в виде записей экрана, повторных перекодировок, скриншотов скриншотов, снятых на чей-то телефон в спешке».
Действительно, SynthID от Google не смог предоставить никакого подтверждения подлинности, когда Ars сфотографировала на камеру смартфона изменённое с помощью ИИ изображение, созданное в Google Earth.
Подрыв доверия
По словам Эсса, добавив ИИ-генератор изображений в Google Earth, Google рисковал подорвать доверие публики к Google Earth как к надёжному источнику подлинных изображений реального мира. Это могло бы также дать дополнительный повод государственным чиновникам или любым лицам, которые хотят отрицать подлинность настоящих спутниковых снимков, заявляя, что они были изменены или полностью созданы с помощью ИИ.
Предоставление всем доступа к простому инструменту для создания изменённых с помощью ИИ спутниковых изображений могло бы также затруднить работу журналистов и исследователей, проверяющих недостоверную информацию и дезинформацию. Эсс рекомендовал использовать несколько источников для проверки спутниковых снимков и полагаться на постоянно обновляемые источники спутниковых данных, такие как европейский Copernicus Sentinel-2.
Возможно, Google снял непосредственные опасения, быстро удалив ИИ-инструмент из Google Earth, — но его заявление позволяет предположить, что компания может со временем вернуть эту функцию.
«Мы видели, как геопространственные специалисты используют эту функцию в различных полезных целях, однако мы также видели, как люди делились скриншотами сгенерированных изображений, которые, судя по всему, нарушают наши правила», — говорится в заявлении Google. «Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более надёжных защитных механизмов».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jeremy Hsu
