Во вторник в своем блоге компания Meta* анонсировала выпуск генератора изображений на базе ИИ под названием Muse Image, а также еще не выпущенного генератора видео Muse Video. X Илона Маска выпустил нечто очень похожее на этот генератор изображений с интеграцией в социальные сети около двух лет назад, а OpenAI выпустила свой генератор видео через приложение Sora в сентябре прошлого года. Так что, полагаю, с определенной точки зрения, генератор низкокачественного контента для социальных сетей от Meta* давно назрел.
С другой стороны, OpenAI объявила о закрытии Sora в марте этого года, прежде чем полностью переориентировать свою компанию. Между тем, интеграция изображений Grok в X также прошла не слишком гладко. На случай, если вы забыли, в прошлые праздники в X стало мемом просить Grok генерировать сексуализированные изображения людей, включая несовершеннолетних.
Можно было бы предположить, что Meta* не захочет, чтобы это хоть как-то напоминало о прошлых продуктах ИИ для социальных сетей, но вы ошибаетесь. Muse Image извлекает информацию из вашего Instagram* . Если вы используете браузер, самый простой способ увидеть это в действии — зайти в веб-приложение Meta* AI по адресу meta.ai, войти в систему, используя свою учетную запись Instagram* , и попросить интерфейс чат-бота сгенерировать ваше изображение.
Моя учетная запись в Instagram* закрыта, но, по-видимому, поскольку я запрашивал информацию о своей собственной учетной записи — той, в которую я вошел — система смогла просмотреть мои фотографии. Однако в отображаемой цепочке рассуждений в приложении говорилось, что в моей ленте фотографий недостаточно информации о моей внешности, чтобы Muse Image мог ее использовать, поэтому вместо этого он сгенерировал изображение случайного мужчины и объяснил, что будет притворяться мной, и я смогу изменить его позже. Это была не лучшая альтернатива простому сообщению о невозможности выполнить запрос, но меня это не сильно обеспокоило.
Однако несколько более тревожным является то, что вы также можете попросить чат-бота сгенерировать изображение, используя данные, извлеченные из учетной записи Instagram* другого человека. Неудивительно, что мне разрешили сделать это с запросами о Марке Цукерберге.
Еще более тревожно то, что это работает и со случайными людьми. Мне удалось сгенерировать (совершенно безобидные) изображения друга из моего списка контактов в Instagram* . В другом тесте я смог сгенерировать изображение реального друга, на которого я никогда не был подписан и с которым никогда не взаимодействовал в Instagram* — по сути, цифрового незнакомца — без его разрешения.
Как отметило издание Wired, разрешение другим получать доступ к вашему образу таким образом в настоящее время является настройкой по умолчанию в Instagram* , если у вас общедоступная учетная запись. Instagram* обновил соответствующую страницу справки, чтобы раскрыть эту информацию, а также связанное с этим раскрытие информации, которое стоит прочитать. В этом разделе теперь говорится (выделение мое):
«Если у вас общедоступная учетная запись, другие пользователи Instagram* могут использовать ваши опубликованные фотографии, видео или ролики в таких функциях, как ремиксы, последовательности, шаблоны и стикеры, для создания новых роликов, публикаций или историй. Кроме того, люди могут создавать контент с использованием вашего контента в Instagram* с помощью функций ИИ от Meta*. В зависимости от настроек другого пользователя, это означает, что ваш использованный контент может быть обнаружен в результатах поисковых систем.“
В моих тестах самым быстрым способом для пользователя Instagram* остановить это было перевести свою учетную запись в режим «Приватная» через браузер. Если вы используете приложение Instagram* на смартфоне, вы можете отказаться от участия (по данным Wired), перейдя в свой профиль, нажав на кнопку-гамбургер в правом верхнем углу и найдя вкладку «Совместное использование и повторное использование». Там будет опция «Разрешить людям использовать ваш контент в Instagram* и с помощью функций ИИ на Meta*», и вы сможете отключить «Публикации» и «Ролики».
Согласно сообщению в блоге Meta*, эта функция теперь встроена в Instagram* Stories для пользователей из США, а в некоторых регионах — в WhatsApp*. Похоже, Facebook* получит ее в ближайшее время. Тем временем, Muse Video скоро появится в Meta* AI, говорится в сообщении блога. Предположительно, он будет генерировать видео так же легко, как сейчас генерирует фотографии.
Gizmodo обратился к Meta* за комментариями. Мы обновим эту статью, если получим ответ.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
