Европейский союз усиливает давление на Meta*, требуя внести серьезные изменения в Facebook* и Instagram* после того, как Европейская комиссия предварительно установила, что такие функции, как auto-play, infinite scroll и высокоперсонализированные рекомендации контента, вызывают привыкание.
В четверг ЕК заявила, что ее расследование показало, что «Meta* не смогла адекватно оценить риски своего вызывающего привыкание дизайна для физического и психического благополучия пользователей, включая несовершеннолетних и уязвимых взрослых».
«Эти функции подогревают желание пользователя продолжать прокрутку и переводят мозг в “режим автопилота”, способствуя нездоровым привычкам и компульсивному использованию», — заявила Комиссия.
В ближайшие несколько месяцев у Meta* будет возможность оспорить эти утверждения, и компания уже заняла оборонительную позицию. Представитель Meta* Бен Уолтерс сообщил Reuters, что Meta* не согласна с предварительными выводами Комиссии, которые якобы «не учитывают должным образом значительные шаги, которые мы предприняли для защиты подростков».
«С момента начала этого расследования мы внедрили Teen Accounts, которые автоматически защищают подростков и дают родителям контроль — позволяя им блокировать доступ к Instagram* ночью и ограничивать ежедневное время использования экрана до 15 минут», — сказал Уолтерс.
Однако ЕК подчеркнула, что текущие усилия Meta* по смягчению последствий, включая инструменты управления временем, включенные по умолчанию для подростков, «не смогли эффективно решить риски, связанные с вызывающим привыкание дизайном». Кроме того, родительский контроль был признан «эффективным только в том случае, если родители и опекуны обладают достаточными техническими знаниями» и уделяют «достаточно усилий и времени для их эффективного понимания».
«Это подрывает эффективность таких мер в устранении внутренних рисков, связанных с вызывающим привыкание дизайном Instagram* и Facebook*», — заявила ЕК, особенно в отношении несовершеннолетних.
На данном этапе ЕК рекомендовала Meta* рассмотреть возможность «отключения по умолчанию ключевых вызывающих привыкание функций, таких как ‘autoplay’ и ‘infinite scroll’, внедрения эффективных ‘screen time breaks’ и адаптации своей рекомендательной системы, чтобы сделать ее менее ориентированной на вовлеченность».
,
Если Meta* не внесет изменения для соблюдения Digital Services Act ЕС, компании грозят штрафы в размере до 6 % годового мирового оборота, когда ЕК примет окончательное решение в ближайшие месяцы.
«Наша исходная точка такова: на основании наших выводов этот дизайн слишком вызывает привыкание, и необходимо внести изменения», — заявила Reuters Хенна Вирккунен, технический руководитель ЕС.
«Следующий шаг — либо Meta* изменит свой дизайн, либо последует решение о несоответствии», — сказала она, отметив в пресс-релизе, что приоритетом ЕС является «protecting the physical and mental health of Europeans».
Вирккунен заявила, что ЕС не планирует отступать от борьбы, если окончательное решение подтвердит предварительные выводы.
«Digital Services Act предоставляет четкую основу для привлечения платформ к ответственности за вызывающий привыкание дизайн и последствия их услуг», — сказала Вирккунен. «Мы полностью привержены обеспечению соблюдения нашего законодательства в Европе».
Штрафы могут навредить AI-амбициям Meta*
Для Meta* усиление контроля происходит на фоне того, как ЕС и США расследуют, вызывают ли ее платформы привыкание, а многие правительства уже приняли или работают над принятием запретов на социальные сети для несовершеннолетних. В понедельник ЕК получит выводы экспертов, которые «могут помочь проложить путь к общеевропейскому запрету социальных сетей для подростков», говорится в пресс-релизе ЕК, угрожая отрезать Meta* от огромной аудитории, которую, как показали внутренние сообщения, Meta* надеялась вовлечь на своих платформах «на всю жизнь».
В дополнение к looming fines in the EU, Meta* также рискует получить огромные штрафы, если проиграет свою самую крупную битву в США. Meta* недавно не удалось отклонить иск от 29 штатов, утверждающих, что ее платформы вызывают привыкание у детей. Этот судебный процесс начнется в августе, и штаты могут потребовать до $1,4 трлн штрафов, если Meta* будет признана виновной, как сообщил Reuters на этой неделе.
Эта цифра, вероятно, неудобно «близка к рыночной капитализации Meta* около $1,5 трлн», отметил Reuters. Но генеральный прокурор Калифорнии Роб Бонта, похоже, согласен, что это уместно, заявив в заявлении для Reuters, что «Meta* поставила прибыль выше безопасности детей и усугубила кризис психического здоровья, который мы наблюдаем у целого поколения американских детей».
,
В то время как Meta*, по-видимому, продолжает держаться на плаву — указывая на уведомления о времени использования экрана, которые дети могут легко отклонить, или на настройки по умолчанию, которые могут быть изменены, — финансовое давление, требующее сделать больше для защиты детей, может угрожать ее AI-амбициям в критический момент.
Прямо сейчас Meta* тратит состояние, как сообщил The Information, спеша продвинуть свой AI, чтобы догнать конкурентов. На недавнем внутреннем собрании Meta* заявила, что ее будущая AI-модель под кодовым названием Watermelon «догнала флагманскую модель GPT-5.5 от OpenAI», сообщили источники, знакомые с повесткой собрания, Business Insider. Увеличение инвестиций Meta* произошло после того, как она испытывала трудности с тем, чтобы «убедить разработчиков и клиентов, что ее модели находятся на переднем крае индустрии», сообщил Business Insider.
По данным The Information, Марк Цукерберг уже выделил «от 125 до 145 миллиардов долларов на капитальные расходы для своих AI-центров обработки данных в этом году, в дополнение к значительно более высоким операционным расходам, также благодаря AI, на внешние облачные сервисы и AI-специалистов».
«Сколько именно денег Цукерберг готов выложить на этом пути?» — задается вопросом The Information, отмечая, что с 2020 года подразделение Reality Lab в Meta* потеряло 87 миллиардов долларов, преследуя несбыточные мечты о метавселенной.
Стратегия Meta* в области AI, похоже, зависит от максимального вовлечения пользователей в свои AI-инструменты. Согласно сообщениям, ее план заключается в том, чтобы предлагать модели по «смехотворно низким» ценам, чтобы «перебить цены конкурентов», а затем, возможно, повысить цены после пика внедрения.
Но стремление Meta* сделать свои AI-предложения более привлекательными сталкивается с опасениями пользователей по поводу ее платформ, которые, как утверждается, вызывают привыкание у пользователей, чтобы генерировать бесконечные данные, которые теперь подпитывают ее AI-модели.
Проблема Muse
На этой неделе Meta* столкнулась с критикой после выпуска новой AI-модели Muse, которая извлекает изображения и видео из публичных лент Instagram* . Тесты NBC News показали, что Muse можно использовать для создания дипфейков знаменитостей и обычных людей, которые инструменты Meta* для обнаружения дипфейков не всегда распознают. Это повышает риск того, что пользователи Facebook* и Instagram* станут мишенью вводящих в заблуждение дипфейков, сообщил NBC News.
,
При объявлении о новой модели Meta* подтвердила, что большинство пользователей платформы были автоматически включены, и платформа, по-видимому, стремилась захватить как можно больше данных с самого начала. Исключение было сделано только для пользователей, чьи профили уже были установлены как приватные, и для пользователей младше 18 лет, у которых настройки обмена и повторного использования были отключены по умолчанию.
Любой контент, загруженный в Muse, будет доступен для поиска в поисковых системах, подтвердила Meta*, позиционируя AI-инструмент как новый способ создания контента и повышения вовлеченности на своих платформах. Если платформы Meta* останутся в прежнем виде, легко представить, как ее персонализированные рекомендации могут увеличить просмотры этого контента, со временем увеличивая его использование и расширяя возможности AI Meta*.
Meta* не уточнила, почему ей пришлось по умолчанию включать пользователей в обмен, но в заявлении для Reuters сказала, что отказаться от него легко в «несколько кликов». Например, перейдя в настройки Instagram* «обмен и повторное использование», пользователи могут отключить опции «разрешить людям создавать и использовать ваш контент повторно» и «разрешить людям создавать и использовать ваше оригинальное аудио повторно в Meta* AI».
Многие пользователи поспешили поделиться инструкциями по отказу от обмена, поскольку защитники конфиденциальности выразили обеспокоенность тем, что Meta* не запрашивала прямого согласия. Аналогичным образом защитники безопасности детей отметили, что дети все еще могут согласиться на использование их контента теми, на кого они подписаны, что потенциально может передавать конфиденциальные данные в модели Meta* или делать чувствительные изображения доступными для поиска. Также на платформе могут быть несовершеннолетние, обходящие проверку возраста, чьи данные могут быть использованы.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
