Вы — руководитель службы безопасности в малом или среднем бизнесе (SMB), и ваша организация решила внедрить Claude. Если вы похожи на меня, то после того, как первоначальное «удивление» пройдет, вы, вероятно, захотите быстро понять, что внедрение Claude означает для бизнеса, и в частности для безопасности. Ниже приведены некоторые уроки, которые я извлек, наблюдая со стороны или слыша от коллег-руководителей служб безопасности в секторе SMB. Бизнес хочет двигаться быстро, а перед службой безопасности стоит задача успевать за этой скоростью.
Знайте, что вы покупаете, и примите тот факт, что все меняется быстро
Убедитесь, что вы действительно понимаете, чего пытается достичь организация и какой план Claude вы приобретаете. Понимание плана Claude, который вы используете или планируете приобрести, важно, поскольку большинство требований безопасности становятся доступными только на тарифе Team или выше. Например, хотя тариф Team предоставляет SSO, Compliance API доступен только на тарифе Enterprise. Claude Code («Code»), Cloud Cowork («Cowork») и Claude Chat («Chat») — это разные продукты с разными сценариями использования и результатами. Стратегия здесь заключается в управлении радиусом поражения. Скорее всего, каждый пользователь будет запрашивать «Claude», не зная, какой план или продукт ему нужен для выполнения задачи. Я обнаружил, что аналогия здесь хорошо работает: у финансового отдела, вероятно, низкая готовность выдавать каждому в организации корпоративную кредитную карту с неограниченными расходами и без политики отчетности.
В том же духе, возможно, нет необходимости оснащать всех лицензией Claude, и хотя у некоторых пользователей может быть бизнес-обоснование для использования Cowork, не всем понадобится Code. Обеспечение этих продуктов не всегда очевидно. Моя рекомендация — наладить гибкий процесс утверждения, чтобы определить, кому вообще нужна лицензия Claude, какие продукты им нужны и как первоначально контролировать радиус поражения таким образом. Однако есть предостережение: хотя может показаться, что пользователь с лицензией Claude теперь более рискован, чем без нее, это может быть не совсем так. Если вы не можете жестко контролировать использование теневого ИИ, нелицензированный пользователь может использовать бесплатный план Claude или совершенно другой продукт ИИ. Примерно половина сотрудников использует теневые инструменты ИИ, в то время как некоторые другие опросы показывают, что это число может быть еще выше (в 80-м процентиле).
Кроме того, примите тот факт, что поспевать за постоянно меняющимся ландшафтом ИИ сложно, особенно для руководителя службы безопасности SMB. Claude выпускает обновления почти ежедневно, а функции и возможности перемещаются в настройках организации. Сама по себе скорость инноваций ошеломляет, поэтому не расстраивайтесь, если у вас не будет всех ответов сразу. Мы все одновременно учимся использовать ИИ и обеспечивать его безопасность.
Совет-подсказка: не знаете, с чего начать? Спросите Claude. Попросите его объяснить функции вашего плана Claude, какие функции безопасности вам доступны и как может выглядеть план внедрения для вашей организации. Кроме того, если у кого-то есть к вам вопрос, спросите его: «Ты спрашивал Claude?» Делегирование в лучшем виде.
Не включайте все сразу и берегите свои ключи
То, что, по моему опыту, работает хорошо, — это ранжирование функций Claude по степени риска. Если совет выше связан с радиусом поражения, вы можете рассматривать это как оценку «векторов атак». Несомненно, пользователи будут просить включить все функции Claude сразу, но я рекомендую поэтапный подход. В настройках организации Claude очень легко включать и выключать функции, и хотя есть некоторые предупреждения о том, как функция может повлиять на безопасность, не всегда ясно, как функция работает в разных продуктах Claude или внутри них.
Включение исходящего трафика сопровождается предупреждающим баннером; включение веб-поиска или расширения браузера — нет. Однако риск косвенного инъекционного ввода промптов (prompt injection) реален и все еще развивается. Жесткое «нет» может не сработать для бизнеса, но хорошо объясненное «может быть, позже» может сработать. Моя рекомендация — пройтись по функциям Claude и ранжировать их по риску (или, что еще лучше, сначала попросить Claude ранжировать их по риску) и составить дорожную карту, исходя из этого. В итоге у меня получилось три группы: «включить сейчас», «включить с дополнительными элементами управления и мониторингом» и «не включать, пока риск не будет лучше контролироваться», но ваша может выглядеть иначе. Ценным ресурсом, который мы использовали, было это руководство по внедрению для Cowork, но есть и другие, и это руководство только для Cowork.
Одной из самых запутанных частей является управление ключами API. Не раздавайте ключ API Anthropic; в зависимости от того, кто является «основным владельцем» учетной записи Claude, этот человек контролирует ключи от королевства. Наладить безопасный и структурированный способ администрирования ключей API было сложно выяснить, поскольку инструкции нигде не найти в организационных (административных) настройках. Поскольку это очень сложная тема, знайте, что существуют разные типы ключей API, и Anthropic представила концепцию рабочих пространств (workspaces). Кроме того, для Admin API требуется специальный ключ API (начинающийся с sk-ant-admin…), а не стандартный ключ (sk-ant-api…). Доступ всегда является областью высокого риска, поэтому убедитесь, что вы понимаете, как организация выдает, управляет и проверяет ключи API. Я рекомендую держать круг лиц, которые могут создавать ключи API, небольшим, особенно в начале.
Совет-подсказка: сделайте снимок экрана. Знаете ли вы, что Claude может анализировать скриншоты? Если вы не уверены, что конкретная функция Claude означает для безопасности, сделайте снимок экрана настройки и попросите Claude оценить, что эта функция означает в соответствии с вашими политиками безопасности, SOC 2 и так далее. Чем больше контекста вы предоставите, тем лучше будут результаты.
Вы все еще не можете передать на аутсорсинг риск безопасности, и слоном в комнате по-прежнему остаются данные
Не предполагайте, что безопасность автоматически встроена в продукты Claude, и получение видимости с точки зрения безопасности может быть проблемой. В то время как Anthropic постоянно совершенствует средства контроля безопасности и ограничительные механизмы для своих продуктов, как и в ранние дни интернета, средства контроля и ограничительные механизмы все еще создаются, но это не означает, что вы освобождаетесь от ответственности за понимание рисков и проблем безопасности. Например, включение «Навыков» (Skills) может привести к выполнению вредоносного кода. Хотя Anthropic предоставляет рекомендации о том, как создавать навыки, готового решения пока нет. С помощью Claude Code мы создали нашего собственного «аудитора навыков» — мини-рабочий процесс для автоматической отправки навыка на проверку. Он использует внутреннюю документацию и руководство Anthropic по лучшим практикам для аудита навыка, выявления потенциальных проблем и предоставления рекомендаций по их устранению.
Теперь мы планируем усовершенствовать этот навык еще больше, чтобы он мог предоставлять обновленный навык, а не просто рекомендации. Главная проблема по-прежнему заключается в наличии хороших средств контроля и управления вашими данными — не только того, что попадает в Claude, но и того, что выходит из него. И, честно говоря, это может быть одной из самых сложных проблем для решения, так что, если вы ее решили, позвоните мне. Веб-поиск в Cowork по сути действует как прокси для веб-трафика. Веб-сайты или веб-контент, которые вы блокировали или фильтровали с помощью традиционных инструментов, теперь могут обойти ваши средства контроля. Кроме того, LLM — угодники: если они не знают ответа, они могут его выдумать (также известное как галлюцинации). Пользователи часто склонны или склонны принимать результат за истину. Это может не только создать проблемы с безопасностью, но и привести к плохим бизнес-результатам.
Совет-подсказка: максимально используйте существующие инструменты и поставщиков. Задавайте им вопросы о возникающих проблемах. Они, как и вы, должны адаптироваться к новым продуктам и разработкам в области ИИ. Не чувствуйте себя одиноким.
Как специалисты по безопасности, я считаю, что мы все мечтаем о дне, когда уязвимости будут исправляться автоматически задолго до того, как они попадут в продакшн, но с выбором реализации приходит возможность сделать это «неправильно». Однако я также считаю, что как руководитель службы безопасности в секторе SMB у вас уже есть навыки и опыт, необходимые для принятия правильных решений. Вы, вероятно, привыкли к меньшему количеству бюрократии, более гибкому соблюдению требований и более быстрому выходу на рынок. Это означает, что вы постоянно балансируете между риском и вознаграждением, и здесь то же самое. Всего наилучшего — у вас все получится!
Эта статья опубликована в рамках Сети экспертных авторов Foundry.
Хотите присоединиться?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Max Graupner
