Справедливости ради, Instinct пока находится в закрытом тестировании, так что эти опасения еще не достигли широкой публики.
Созданный небольшой командой под руководством бывшего научного сотрудника Sierra Ноа Шинна, Instinct, базирующийся в Сан-Франциско, управляется компанией Spear Street Technology, согласно ее условиям и документам, поданным в Калифорнии. В настоящее время он работает в скрытом режиме, согласно PitchBook.
Сам ИИ-агент работает путем подключения к вашим приложениям и устройствам, включая вашу электронную почту, мессенджеры, календарь, а также аудио, местоположение, экран вашего устройства и многое другое. Вы можете отправлять агенту текстовые сообщения или звонить ему через SMS или *WhatsApp, прося его выполнить различные задачи, такие как бронирование встреч и столиков, заказ такси до аэропорта, очистка почтового ящика, организация важной информации, управление покупками, поиск дешевых авиабилетов и многое другое.
Хотя тестировщики отмечают, что Instinct превосходит их ожидания, некоторые также выразили обеспокоенность по поводу подхода компании к конфиденциальности и безопасности клиентов. Это поднимает своевременный вопрос: стоят ли компромиссы, связанные с предоставлением ИИ такого уровня доступа и автономии, того?
Например, несколько человек распространяют скриншоты из Условий предоставления услуг компании, которые предоставляют Instinct широкую «бессрочную и безотзывную» лицензию на «доступ, использование, размещение, кэширование, хранение, воспроизведение, передачу, отображение, публикацию, распространение и изменение» любых материалов пользователя, в том числе для обучения своих моделей ИИ. В условиях также подробно описано, как Instinct может получать информацию с устройств пользователей, включая снимки экрана, движения курсора и нажатия клавиш.
Условия также позволяют Instinct заключать «соглашения, обязательства или сделки» от имени пользователей, которые будут иметь обязательную силу.
Один из первых пользователей, Питер Янг, отметил, что Instinct не удалял его записи Gmail по запросу. (Позже команда исправила проблему, добавив инструмент для удаления внешних данных в настройках, по его словам.)
Другой человек, Клэр Во, обнаружила, что Instinct продолжал суммировать ее почтовый ящик после отключения доступа. Когда она спросила Instinct, что произошло, бот подтвердил, что электронные письма хранятся в открытом виде для последующего поиска.
Многие другие также подвергли сомнению модель безопасности. Один тестировщик немного испугался, когда обнаружил, что Instinct смог извлечь код регистрации из его почтового ящика для выполнения конкретной задачи — в его случае бронирования столика в ресторане через Resy. А сооснователь Hello Patient Алекс Коэн написал, что, узнав, как легко можно обмануть Instinct с помощью фишинга, он удалил свою учетную запись:
Кроме того, основательница Moxxie Ventures Кейти Джейкобс Стэнтон рассказала, что Instinct подорвал ее доверие, отправив электронное письмо от ее имени без предварительного согласования.
«Мы обмениваем конфиденциальность и контроль на гиперперсонализированные ИИ-инструменты (ИИ-заметки, персонализированные ИИ-агенты и т. д.), часто не до конца понимая, на что идем», — заметила она в X, подводя итог дилемме, которую ставят персональные ИИ-агенты. «Чем мощнее становятся эти агенты, тем важнее доверие. Каждое успешное действие приносит еще немного доверия. Одно несанкционированное действие может свести это доверие к нулю», — сказала она.
Майкл Миньяно, основатель Anchor (приобретенной Spotify), а теперь генеральный партнер Union Square Ventures, отметил, что такие продукты, как Instinct, собираются «изменить современные нормы безопасности для потребителей», добавив, что «люди будут все чаще передавать пароли сторонним приложениям, не зная, как и что те хранят от их имени».
Интерес к Instinct и персональному ИИ растет с появлением OpenClaw, персонального ИИ-ассистента, который стал популярным благодаря своим мощным возможностям, что привело к тому, что его основатель присоединился к OpenAI для работы над следующим поколением персональных агентов. Еще один ассистент на основе сообщений, Poke, также недавно был приобретен Cognition.
Несмотря на критику, команда Instinct пока не ответила ни на чьи опасения или жалобы в X, предпочитая держаться в тени. (Сам бот идентифицирует Луку Борлетти, также ранее работавшего в Sierra, как причастного к компании, но это не подтверждено.) TechCrunch узнал от нескольких инвесторов, что Kleiner Perkins и Conviction вложили средства в стартап, и эти раунды уже закрыты.
Запросы на комментарии, отправленные как на основной адрес электронной почты стартапа, так и напрямую Шинну, пока остались без ответа.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
