На прошедшем в среду мероприятии «Surprise and Shine», где компания представила свою новую линейку оборудования, настоящим сюрпризом оказалось не складное устройство iPhone, а то, как технологический гигант, известный своей заботой о конфиденциальности, решил обрабатывать живое аудио с помощью своих часов и транскрибировать сказанное.
Означает ли это, что вас всегда записывают, если человек, с которым вы общаетесь, носит Apple Watch? Не совсем, хотя это может вызвать дискомфорт у некоторых людей независимо от этого.
Это также поднимает вопрос о том, действительно ли потребители хотят такую технологию, или Apple пошла в этом направлении, опасаясь, что другая компания, например OpenAI, скоро представит собственный конкурентный ИИ-устройство.
Сегодня ряд стартапов действует исходя из убеждения, что транскрипция с помощью ИИ является ключевым потребительским сценарием использования ИИ. До сих пор это чаще всего касалось транскрипции заметок со встреч или записи лекций или интервью. Некоторые компании, такие как AI-кулон Friend и Amazon Bee, ventured в другие области, предлагая всегда доступных ИИ-компаньонов, которые могут помочь вам запомнить ваш день, пассивно делая заметки.
Apple решила пойти немного другим путем. С помощью своих новых функций часов «audio intelligence», «Live Rewind» и «Siri Recap» компания балансирует на грани между доступностью и полезностью с одной стороны, и тем, что начинает ощущаться как инвазивная технология, с другой.
Сама по себе функция Audio Intelligence кажется полезной для глухих или слабослышащих, поскольку она может оповещать владельцев Apple Watch о таких звуках, как сирены, сигнализация, дверные звонки, плач младенцев и многое другое, используя ИИ на устройстве. Это может работать даже тогда, когда iPhone владельца находится не с ним, и в некоторых случаях может оказать помощь, спасающую жизнь, например, при срабатывании пожарной сигнализации или детектора угарного газа. Сомнительно, что кто-то будет возражать против такого типа аудио-ИИ.
Однако Live Rewind и Siri Recap выходят из области вспомогательных технологий и переходят в более туманную зону.
Хотя меры защиты данных Apple могут сделать эти функции более приемлемыми для некоторых, все же существует вероятность, что нормализация технологии прослушивания может быть не лучшим шагом для компании, ориентированной на конфиденциальность. Это особенно актуально, учитывая более широкую негативную реакцию потребителей противтехнологий наблюдения, таких как камеры Flock, центры обработки данных ИИ и ИИ-приложения в целом.
Для начала, функция ИИ Live Rewind позволяет вернуться на 15 секунд назад и транскрибировать сказанное, дважды нажав цифровую коронку часов. Эта транскрипция затем может быть сохранена в новом отдельном приложении Siri от Apple, чтобы вы могли вернуться к информации позже.
Apple предполагает, что это может быть использовано для запоминания таких вещей, как «рекомендация книги, блестящая идея коллеги или что-то, что вы не услышали с первого раза», но это также означает, что вы можете фактически поймать кого-либо, говорящего что-то, что они не обязательно хотели бы записывать, и отметить это.
Это имеет последствия в отношении согласия, не только с этической, но и с юридической точки зрения. Производитель ИИ-устройств Plaud, например, советует клиентам получать юридически необходимое согласие перед записью. Amazon Bee в своих условиях обслуживания напоминает пользователям, что они несут единоличную ответственность за соблюдение закона о конфиденциальности данных несовершеннолетних, а не Amazon.
Поскольку Apple не сохраняет аудиозаписи, неясно, как судебная система будет рассматривать эти новые, только текстовые транскрипции. Возможно, заметки могут быть представлены в качестве доказательств в суде, но отсутствие аудио может затруднить их аутентификацию или проверку. Кроме того, правила доказывания их использования, вероятно, будут различаться в зависимости от штата.
Помимо юридических вопросов, идея о том, что кто-то всегда может записывать со своих часов, имеет культурные последствия.
Уже сейчас записывающие устройства повлияли на поведение людей в реальной жизни, показывают исследования, как и социальные сети и культура наблюдения за данными. Знание того, что вас могут записать в любой момент, оказывает сдерживающее влияние на то, как вы взаимодействуете с другими и выражаете себя.
Однако запись фото или видео по-прежнему требует довольно очевидного действия со стороны записывающего: нужно поднять телефон и направить его на объект. Захватить небольшой фрагмент аудио для преобразования в транскрипцию, просто нажав цифровую коронку часов, — это, возможно, гораздо более тонкий жест, даже несмотря на звуковой сигнал и полноэкранную анимацию микрофона, как утверждает Apple.
Еще одна новая функция Apple Watch, «Siri Recap», использует фоновое прослушивание для «составления высокоуровневых заметок» ваших разговоров, которые можно просмотреть в приложении Siri для iOS. Эти заметки будут автоматически генерировать заголовок, резюме и ключевые моменты на основе того, что было записано и обобщено ИИ. Это не будут точные транскрипции.
Apple предполагает, что это может быть полезно для записи итогов совещаний или ключевой информации с родительского собрания, например.
Компания также попыталась заверить пользователей, что подошла к этим функциям прослушивания с уважением к конфиденциальности пользователей.
Apple отмечает, что Siri Recap не включен по умолчанию постоянно, как некоторые другие носимые ИИ-устройства. Вместо этого вы можете выбрать, когда он включен, например, только на работе или только в течение дня. Кроме того, вы можете включать и выключать функцию в любое время из Центра управления.
Примечательно, что Apple указывает на то, что она не создает и не хранит аудиозаписи, и что необработанное аудио недоступно даже для Apple. Она также не идентифицирует и не приписывает говорящих, и защищает сгенерированные транскрипции и резюме сквозным шифрованием.
Достаточно ли этого, чтобы потребители не чувствовали, что функция является жутким, — это другой вопрос. Либо Apple нашла правильный баланс между полезностью и конфиденциальностью, либо ей предстоит столкнуться с негативной реакцией потребителей.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
