В понедельник компания Anthropic анонсировала исследовательскую предварительную версию Claude Cowork — инструмента для автоматизации офисной работы, сопровождаемую уже привычным перечислением рисков машинного обучения.
В компании заявили, что вдохновением для создания Cowork послужил Claude Code — их инструмент для генерации программного кода по запросам на естественном языке и с использованием доступных файлов и утилит.
Если с Claude Code на выходе получается, как правило, исходный код или связанные артефакты вроде документации или конфигурационных файлов, то с Cowork результатом могут быть локальные файлы, такие как электронные таблицы, или взаимодействие с настольными или веб-приложениями.
Cowork может найти поклонников среди офисных работников, которым приходится создавать презентации, но не испытывают гордости за свою работу, которым необходимо перемещать данные между приложениями без кодифицированных ритуалов импорта и экспорта, или тем, кто вынужден проводить обширные операции по переформатированию в электронных таблицах.
Он также может оказаться подспорьем, позволяющим людям с минимальными навыками работы с приложениями делегировать задачи, выходящие за рамки их компетенции, модели ИИ с иным набором ограничений. Вспомните все диаграммы, которые Cowork может создать для тех, кто не знаком с анализом данных и статистикой, или предложения и аналитические записки, которые он может сгенерировать для последующего обобщения другими моделями ИИ.
Но для работы Cowork необходим доступ к файлам и приложениям.
Именно здесь вступает в силу предупреждение. Anthropic ясно дает понять, что Cowork является исследовательской предварительной версией и должен использоваться с осторожностью. Пользователям советуют не предоставлять Cowork доступ к локальным файлам, содержащим конфиденциальную информацию.
При использовании совместно с расширением Claude в Chrome (которое имеет собственное предупреждение о безопасности), Cowork следует ограничивать доступом только к доверенным веб-сайтам. То же самое касается изменения настроек интернета по умолчанию в Claude.
Кроме того, пользователям рекомендуется «отслеживать подозрительные действия Claude, которые могут указывать на внедрение промптов (prompt injection)». Да, если вы случайно направите модель ИИ на файл или веб-сайт, содержащий текст, который может быть истолкован как системная инструкция, а не данные, вы можете спровоцировать атаку косвенного внедрения промпта. Исследователи безопасности неоднократно демонстрировали, насколько относительно легко создать такие атаки.
Anthropic продолжает заверять, что внедряет различные уровни защиты, такие как обучение с подкреплением, чтобы убедить Claude отклонять вредоносные инструкции, и классификаторы контента, которые пытаются перехватить вредоносное согласие до того, как оно будет передано базовой модели.
Но за смягчением компания следует предостерегающим повторением: «Важно: Хотя мы приняли эти меры безопасности для снижения рисков, вероятность атаки все еще не равна нулю. Всегда проявляйте осторожность при использовании Cowork». Вы были предупреждены.
Для тех, кто все еще не убежден действовать осторожно, существует отказ от ответственности, который гласит: «Вы несете ответственность за все действия, совершенные Claude от вашего имени».
На случай, если это неясно, компания заявляет, что это включает в себя опубликованный контент или отправленные сообщения, покупки или финансовые операции, доступ к данным или их изменение, а также условия обслуживания на сторонних веб-сайтах, которые, как и Amazon, могут запрещать автоматизированное взаимодействие без разрешения.
Как только вы миновали отказы от ответственности и предоставили необходимые разрешения, и если вы соответствуете требованиям доступа — подписка Claude Max (100 или 200 долларов в месяц) и настольное приложение Claude для macOS — вы можете сказать Cowork: «Пожалуйста, помоги организовать мой рабочий стол». При удаче, вспомогательное ПО более тщательно упорядочит ваши загроможденные файлы на рабочем столе, чем команда «Упорядочить выделенное» в Mac.
И это еще не все. «Затем Claude сможет читать, редактировать или создавать файлы в этой папке», — поясняет Anthropic в своем блоге. «Он может, например, реорганизовать ваши загрузки, сортируя и переименовывая каждый файл, создать новую электронную таблицу со списком расходов из кучи скриншотов или подготовить черновик отчета из разрозненных заметок».
Cowork может быть расширен для работы со сторонними приложениями и сайтами через Connectors, а также со специфическими форматами файлов, такими как PowerPoint (pptx), Excel (xlsx), Word (docx) и PDF (pdf), через Skills.
Сложность заключается в том, чтобы понять, что имеет смысл автоматизировать. Некоторые пакетные операции с файлами на рабочем столе могут быть более эффективными в виде команд командной строки (CLI) или сценариев оболочки (shell scripts), которые Claude даже может составить по запросу.
Anthropic признала, что пользователям может быть сложно придумать способы использования Claude, опубликовав список предлагаемых вариантов использования. К ним относятся такие задачи, как «очистка рекламных писем», «организация файлов в Google Drive» и «вдумчивый выбор подарков с помощью Claude».
Anthropic заявила, что ожидает внесения улучшений в Cowork на основе отзывов и планирует вывести сервис автоматизации на платформу Windows. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
