«Вы, ребята, всегда подозреваете, что алгоритмы настроены против вас, но реальность на самом деле гораздо более удручающая, чем теории заговора», — написал предполагаемый информатор.
Он утверждал, что был пьян и находился в библиотеке, используя общественный Wi-Fi, где и набирал эту длинную тираду о том, как компания безнаказанно использует лазейки в законодательстве, чтобы воровать чаевые и заработную плату у водителей.
Эти заявления, к сожалению, звучали правдоподобно — DoorDash действительно была привлечена к суду за кражу чаевых у водителей, что привело к урегулированию на сумму 16,75 миллионов долларов. Но в данном случае автор выдумал свою историю.
Люди постоянно лгут в интернете. Но не так часто случается, чтобы подобные посты попадали на главную страницу Reddit, набирали более 87 000 голосов «за» и перекрестно публиковались на других платформах, таких как X, где они получили еще 208 000 лайков и 36,8 миллиона показов.
Кейси Ньютон, журналист, стоящий за Platformer, написал, что связался с автором поста на Reddit, который затем связался с ним через Signal. Пользователь Reddit поделился фотографией, похожей на его пропуск сотрудника UberEats, а также восемнадцатистраничным «внутренним документом», в котором описывалось использование компанией искусственного интеллекта для определения «показателя отчаяния» отдельных водителей. Но когда Ньютон попытался проверить, является ли учетная запись информатора подлинной, он понял, что его заманивают в мистификацию с использованием ИИ.
«На протяжении большей части моей карьеры до этого момента документ, предоставленный мне информатором, казался бы весьма правдоподобным, в основном потому, что на его составление потребовалось бы очень много времени», — написал Ньютон. «Кто бы стал тратить время на составление подробного 18-страничного технического документа о динамике рынка только для того, чтобы троллить репортера? Кто бы стал утруждать себя созданием поддельного пропуска?»
Всегда были злоумышленники, стремящиеся обмануть репортеров, но распространенность инструментов искусственного интеллекта привела к тому, что проверка фактов требует еще большей строгости.
Генеративные модели ИИ часто не могут обнаружить, является ли изображение или видео синтетическим, что затрудняет определение подлинности контента. В этом случае Ньютон смог использовать Gemini от Google, чтобы подтвердить, что изображение было создано с помощью инструмента ИИ, благодаря водяному знаку SynthID от Google, который может выдерживать обрезку, сжатие, фильтрацию и другие попытки изменить изображение.
Макс Сперо — основатель Pangram Labs, компании, которая разрабатывает инструмент для обнаружения текста, сгенерированного ИИ, — непосредственно работает над проблемой различения реального и поддельного контента.
«Количество “мусора” ИИ в интернете значительно увеличилось, и я думаю, что отчасти это связано с расширением использования LLM, но также и с другими факторами», — сказал TechCrunch Макс Сперо, основатель Pangram Labs. «Есть компании с миллионными доходами, которые могут платить за “органическое взаимодействие” на Reddit, что на самом деле означает, что они попытаются стать вирусными на Reddit с помощью сгенерированных ИИ постов, в которых упоминается название вашего бренда».
Такие инструменты, как Pangram, могут помочь определить, был ли текст сгенерирован ИИ, но, особенно когда речь идет о мультимедийном контенте, эти инструменты не всегда надежны — и даже если синтетический пост окажется подделкой, он, возможно, уже станет вирусным до того, как будет разоблачен. Так что пока нам остается пролистывать социальные сети, как детективам, сомневаясь, реально ли все, что мы видим.
В качестве примера: когда я сказал редактору, что хочу написать о «вирусной мистификации с доставкой еды с помощью ИИ, которая была на Reddit в эти выходные», он подумал, что я говорю о чем-то другом. Да — в эти выходные на Reddit было больше одной «вирусной мистификации с доставкой еды с помощью ИИ».
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
8/9
Автор – Amanda Silberling
