Данные о вашем сне могут использоваться для двойной цели. В то время как носимые головные устройства обещают помочь пользователям понять свои паттерны сна, некоторые компании, стоящие за ними, также превращают электрические сигналы, собранные из мозга своих клиентов, в обучающий материал для моделей искусственного интеллекта. Недавно издание Science провело расследование совместно с сетью AI Accountability Network Пулитцеровского центра и обнаружило, что компании, занимающиеся нейронауками, накопили десятки миллионов часов электроэнцефаграфических (ЭЭГ) записей — технически говоря, данных мозговых волн. Согласно полученным данным, несколько компаний используют эти записи для разработки так называемых базовых моделей мозга, несмотря на то, что изначально не указывали это в своих политиках конфиденциальности.
Interaxon, канадская фирма, стоящая за устройством для сна и медитации Muse, является одной из них. Их устройства отслеживают электрическую активность мозга наряду с другими физиологическими показателями во время сна пользователей. Записи обрабатываются в отчеты, которые помогают клиентам отслеживать свой отдых и выявлять изменения в паттернах сна. Но есть и другое применение этой информации. Interaxon уже обучила модель ИИ, используя около 50 000 часов записей ЭЭГ, и утверждает, что удаляет идентифицирующую информацию, включая имена, адреса электронной почты и адреса, перед использованием данных. «Мы стремимся использовать как можно большую часть этого допустимого корпуса», — заявила Надя Кументас, директор по маркетингу компании.
Однако клиентам это не было особо ясно. До разговора с Science политика конфиденциальности Interaxon не содержала явного указания на то, что записи мозга пользователей могут использоваться для обучения базовых моделей. Компания, однако, обновила ее, и Кументас признала: «Мы согласны с тем, что пользователи должны быть явно проинформированы». Для клиентов, чьи записи уже были использованы, классификация произошла поздно, что, вероятно, подвергает компанию потенциальным судебным искам. Конфиденциальность, похоже, остается серьезной проблемой. По данным Science, более двух третей исследованных компаний явно разрешили передачу данных корпорациям без согласия пользователей. Это может быть значительным, если небольшая нейротехнологическая фирма будет приобретена, потенциально передав накопленные записи новому владельцу. Однако Колорадо и Калифорния внесли поправки в свои законы о конфиденциальности потребителей, чтобы охватить нейронные данные, хотя другие штаты отстают.
Interaxon — не единственная компания, продвигающая эту идею. Emotiv, еще один производитель носимых ЭЭГ-устройств, обучает свою большую модель мозга частично на записях клиентов, использующих их высококлассные устройства. Компания также обновила свою политику конфиденциальности после вопросов от Science, раскрывая использование деидентифицированных нейронных данных для обучения моделей при условии получения согласия.
Примечательно, что идея, лежащая в основе этих систем, существенно отличается от обучения большой языковой модели. Вместо того чтобы скармливать ИИ огромный объем текста, разработчики предоставляют ему записи электрической активности мозга. Затем модель изучает повторяющиеся паттерны, которые могут быть адаптированы для распознавания различных состояний мозга или помощи в конкретных исследовательских задачах. И уже есть некоторые интересные результаты. Стартап Piramidal обучил свою модель на более чем 4 миллионах часов данных ЭЭГ в партнерстве с Cleveland Clinic. Компания разработала систему обнаружения приступов, которая правильно идентифицировала девять из десяти приступов в пилотном исследовании после дообучения на записях клиники. Однако это не означает, что потребительские головные устройства могут внезапно читать мысли людей. Большинство носимых ЭЭГ-устройств используют всего от одного до шести электродов, что значительно меньше, чем 19–25, обычно встречающихся в клинических ЭЭГ-системах. Кроме того, их записи, как правило, менее полные.
Тем не менее, последствия для конфиденциальности носимых нейротехнологий не новы. В феврале инженер обнаружил, что может получить доступ к записям мозговых волн других людей через купленную им умную маску для сна. Сообщается, что он исследовал устройство после возникновения проблем с подключением. Изучив его приложение для Android, он обнаружил жестко закодированные учетные данные, которые, казалось, были общими для устройств, и которые он позже обнаружил как показания ЭЭГ, принадлежащие другим пользователям.
Отрасль также собирает нейронные записи в значительных масштабах. В декабре прошлого года мы освещали усилия Coundit по сбору 10 000 часов нейронных данных от тысяч пациентов. Сан-Франциский стартап создал собственную систему гарнитуры для захвата активности мозга вместе с речью и текстом с целью разработки ИИ, способного преобразовывать сигналы в язык. *Meta также работает над BrainQwerty, неинвазивным интерфейсом мозг-компьютер, который преобразует активность мозга в ввод с клавиатуры. Ее система второго поколения улучшила среднюю точность слов до 61% с 40% в предыдущей версии, хотя технология все еще далека от практического повседневного использования.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Newton Gitonga
