Кажется, каждую неделю появляются новые сообщения о том, как агенты OpenAI вмешиваются в работу различных сегментов интернета. На этой неделе очередь дошла до Wikimedia. Некоммерческая организация, стоящая за Википедией, сообщила в понедельник в своем блоге, что ее сервисы пострадали от «несанкционированных» агентов OpenAI.
Фонд Wikimedia заявил, что провел собственное расследование и обнаружил на своих платформах активность, которая, по его мнению, исходила от агентов, управляемых OpenAI. Неавторизованные боты вносили правки в вики Wikimedia, безуспешно пытались использовать общедоступный инструмент для заметок и генерировали интенсивный трафик, который мог способствовать частичному сбою одной из служб данных.
Wikimedia заявила, что не нашла доказательств компрометации своих систем или данных. Тем не менее, некоммерческая организация выразила обеспокоенность по поводу того, что могло произойти, сложности расследования таких инцидентов и «растущих рисков, связанных с деятельностью автономных ИИ-агентов».
Публикация в блоге последовала за волной сообщений о том, что агенты OpenAI получают несанкционированный доступ к сторонним веб-сайтам и сервисам или нацеливаются на них.
Внимание к несанкционированным ИИ-агентам действительно возросло в этом году после того, как Hugging Face сообщил в июле, что обнаружил и отреагировал на вторжение, осуществленное «от начала до конца» автономной системой ИИ-агентов. Спустя несколько дней OpenAI признал, что за компрометацией стоят его модели.
Компания OpenAI заявила, что агенты, проходившие внутренние проверки кибербезопасности, обошли защитные механизмы, предназначенные для ограничения их доступа к интернету. Они использовали уязвимости, получили доступ к интернету и в конечном итоге скомпрометировали части инфраструктуры Hugging Face, пытаясь выполнить поставленные задачи. OpenAI теперь столкнулась с судебным иском из-за этого взлома.
С тех пор OpenAI раскрыла другие инциденты, в которых ее агенты получали несанкционированный доступ к сторонним системам. Например, в июне агент OpenAI получил несанкционированный доступ к порталу статистики Medicare правительства Австралии.
В случае с Wikimedia некоммерческая организация заявила, что обнаружила правки в своих вики, которые, по ее мнению, были сделаны агентами OpenAI. Почти все они были тестовыми правками, сделанными в «песочницах», и не были опубликованы на страницах, видимых обычным читателям. Однако некоторые агенты также редактировали конфигурацию инструмента цитирования. Wikimedia заявила, что, по ее мнению, эти изменения «были направлены на злоупотребление этим инструментом в качестве прокси для получения данных из удаленных сервисов».
Для справки, Wikimedia разрешает ботам вносить правки, но только при условии их раскрытия и одобрения сообществом.
Wikimedia также сообщила, что агенты OpenAI предприняли безуспешные попытки скомпрометировать Etherpad, общедоступный инструмент для заметок, размещенный на их платформе. Агенты также пытались использовать сервис в качестве прокси для сбора данных с других веб-сайтов.
Наконец, Wikimedia заявила, что агенты, которые, по ее мнению, управлялись OpenAI, сделали миллионы автоматизированных запросов к ее общедоступным API, просканировали миллионы страниц и выполнили сотни тысяч запросов к службе запросов Wikidata (WQDS). Некоммерческая организация сообщила, что этот трафик мог способствовать частичному сбою WQDS в мае.
«Подобные инциденты, как и многие другие, которые были (и до сих пор раскрываются), иллюстрируют, как ИИ-агенты могут истощать ресурсы и вызывать сбои серверов, а также пытаться скомпрометировать достоверную информацию», — написала в своем блоге директор по продуктам и технологиям Wikimedia Селена Деккельманн.
Деккельманн призвала компании, занимающиеся разработкой ИИ, взять на себя большую ответственность за мониторинг своих агентов и предотвращение этих рисков.
OpenAI не сразу ответила на запрос о комментарии, однако представитель Дрю Пусатери сообщил Reuters, что компания ценит выводы Wikimedia и работает с ними над анализом сообщеной активности.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
