Масштабная программа компании Meta* по сбору широкого спектра данных сотрудников для обучения своей ИИ-модели была заморожена после того, как сотрудники, по сообщениям, обошли защитные механизмы и получили доступ к ограниченным данным, а затем повторили это после того, как Meta* заявила об устранении уязвимости.
Независимо от того, была ли сбор данных владельцем Facebook* стоимостью 201 миллиард долларов хорошей идеей, аналитики утверждают, что развернутые меры защиты данных были крайне неадекватными, учитывая крайне конфиденциальный характер собранных данных.
«У Meta* были ресурсы, чтобы сделать это правильно, но они потерпели сокрушительный провал», — заявила Карианна Мишель, директор консалтинговой фирмы Acceligence. «Так выглядит ситуация, когда политическое решение и техническое исполнение принимаются в двух разных кабинетах, которые не полностью синхронизированы. Это тот разрыв, который часто наблюдается в организациях, испытывающих структурное напряжение».
Фриц Жан-Луи, главный консультант по кибербезопасности в Info-Tech Research Group, согласился.
«То, что мы только что увидели в истории Meta*, — это классический сценарий сбоя в стратегии работы с данными в эпоху ИИ: сбор телеметрии с высоким уровнем риска без столь же зрелых средств контроля доступа», — сказал Жан-Луи. «В таких масштабах одна неверная конфигурация превращает внутренние данные в системную утечку».
История, подробно описанная в отчете Wired, касалась программы, запущенной Meta* в апреле под названием Model Compatibility Initiative (MCI), которая собирает компьютерные вводы, такие как движения мыши, места кликов и нажатия клавиш, а также содержимое экрана, говорится в статье. Сотрудникам Meta* изначально не разрешалось отказываться от участия.
Собранные данные включали полные запросы и расшифровки, личные разговоры, данные о людях и производительности, сообщает Wired, добавляя: «Руководители Meta* неоднократно защищали проект по сбору данных, заявляя, что он необходим для обучения систем ИИ работе с компьютерным программным обеспечением так, как это делают люди, и что сотрудники являются лучшими примерами для обучения искусственного интеллекта».
Wired также процитировал Стефана Касриэля, вице-президента Meta*, курирующего исследования в области ИИ, который сообщил, что компания обнаружила несанкционированный доступ сотрудников к данным MCI 18 июня, и что брешь была закрыта «в течение четырех часов». Однако он добавил: «первоначальное исправление не сработало, и доступ к данным пришлось дополнительно ограничить».
В заявлении по электронной почте, предоставленном CSO Online, Meta* подтвердила, что программа временно приостановлена. «Мы тщательно разработали эту программу с мерами по защите конфиденциальности, и хотя на данный момент у нас нет никаких указаний на то, что какие-либо данные были неправомерно доступны сотрудникам Meta*, мы приостанавливаем ее на время расследования», — заявили в Meta*.
«Поверхность ответственности»
Аналитики, консультанты и специалисты отрасли заявили, что их больше беспокоят неадекватные меры защиты, чем само по себе раскрытие данных.
Карми Леви, независимый технологический аналитик, отметил, что, хотя должны вызывать озабоченность «орвеллианское наблюдение Meta* за нажатиями клавиш и движениями мыши работников», более серьезной проблемой являются ничтожно слабые меры защиты, которые использовались для охраны этих данных.
«Насколько бы отвратительной ни была и остается MCI, причина, по которой Meta* нажала на паузу, не имеет ничего общего с моральной и этической двусмысленностью повседневного наблюдения за сотрудниками, а связана исключительно с ее неспособностью защитить собранные в процессе данные», — сказал Леви. «По всей видимости, мониторинг и сбор данных возобновятся, как только компания полностью поймет, как высокочувствительные данные, такие как личные разговоры сотрудников, данные о производительности и расшифровки, оказались непреднамеренно доступны всему персоналу».
Одной из критических фоновых проблем является то, что, хотя собранные данные были высокочувствительными, с точки зрения строгого законодательства о соблюдении требований они не являлись PII (персонально идентифицируемой информацией). Это различие могло ввести Meta* в ложное чувство безопасности и убедить ее в том, что данные не требуют строгой защиты.
«Я думаю, компании могут слишком расслабиться, говоря: «Ну, это не PII», как будто это делает данные низкорисковыми», — сказал Том Финдлинг, генеральный директор Conifers.ai. «Но внутренние запросы, расшифровки, чаты, таблицы данных и заметки о производительности могут многое рассказать о том, как работает компания, что она создает и где есть проблемы или уязвимости. Это конфиденциально, даже если это не номер социального страхования кого-либо».
Финдлинг утверждал, что руководители Meta* «хотели сделать вид, что не понимают», насколько конфиденциальны собранные данные, и это было их оправданием, почему они не обязаны были их достаточно защищать. «Нет сомнений в том, что Meta* не присвоила этому соответствующий уровень риска», — сказал он.
Жан-Луи из Info-Tech особенно возмутился деталями собранных данных.
«Поведенческие данные сотрудников, такие как нажатия клавиш, снимки экрана и шаблоны использования, по сути, являются конфиденциальными по умолчанию. Если вы используете их для обучения ИИ, вы должны обращаться с ними как с производственными секретами, а не как с побочным продуктом аналитики», — сказал Жан-Луи. «Когда тысячи внутренних таблиц становятся широко доступными, у вас появляется поверхность ответственности, а не платформа данных. Доверие в наши дни — это мера безопасности. Как только сотрудники начинают верить, что их данные собираются в избытке или недостаточно защищены, вы одновременно создаете внутренний риск и репутационный ущерб».
Мишель из Acceligence поддержала опасения Жан-Луи.
«Данные, которые раскрыла Meta*, — это не реальный риск. Политика безопасности работает только тогда, когда люди в нее верят, а вера — это именно то, что сейчас под вопросом», — сказала Мишель. «Именно в этом разрыве инциденты вроде этого наносят ущерб: как только сотрудники перестают верить тому, что руководство говорит об их собственных данных, сомнение распространяется на каждую последующую политику, порождая обходные пути, тихое несоблюдение и сотрудников, которые перестают сообщать о проблемах».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Evan Schuman
