Два выпуска ИИ в начале этого года побуждают пользователей отказаться от контроля и позволить автономным агентным инструментам выполнять задачи от их имени. Руководителям ИТ-отделов следует быть готовыми к последствиям.
Компания Anthropic выпустила свою агентную платформу Claude Cowork в январе для macOS и в феврале для Windows, а использование агентного инструмента OpenClaw резко возросло в начале этого года после того, как разработчик Петер Штайнбергер, ныне работающий в OpenAI, запустил этот проект с открытым исходным кодом в конце 2025 года.
В то время как большинство организаций сосредоточены на внедрении ИИ, дополняющего человеческий труд, с конца прошлого года наблюдается огромный всплеск интереса к автономному агентному ИИ, говорит Нил Райли, руководитель отдела инноваций и бывший ИТ-директор в консалтинговой компании по ИТ и головной компании по цифровой трансформации The Adaptavist Group.
По его словам, многие организации, даже традиционно избегающие рисков фирмы из секторов финансовых услуг и здравоохранения, начали экспериментировать с автономным ИИ в поисках способов реорганизации своих рабочих процессов.
Даже несмотря на опасения по поводу непредвиденных результатов и автономных агентов, действующих как теневой ИИ, ранние пользователи агентного ИИ видят огромный потенциал в этой технологии как в мультипликаторе силы, который, например, позволяет нетехническим специалистам решать мелкие ИТ-проблемы без привлечения технической команды.
«Приближаясь к 2026 году, мы начинаем видеть, как люди вкладывают значительные средства в процессы, которые являются более агентными, и позволяют такому контролю осуществляться в очень строгом и регулируемом порядке, но при этом позволяют этим системам обретать такой уровень автономии», — говорит Райли. «Мы наблюдаем огромный рост в этом направлении».
Автономные боты для всех
OpenClaw и Claude Cowork находятся на переднем крае этой грядущей революции, позволяя пользователям привлекать ИИ для автоматизации рабочих процессов на своих компьютерах. Боты OpenClaw интегрируются с внешними большими языковыми моделями (LLM) ИИ, такими как Claude и модели GPT от OpenAI, а пользователи получают к ним доступ через чат-бот, работающий в мессенджере, таком как WhatsApp*, Telegram или Discord.
Пользователи предоставляют Claude Cowork доступ к своим приложениям и файлам, а затем дают ИИ команду на выполнение задач. Cowork может организовывать файлы, создавать электронные таблицы, готовить отчеты и анализировать заметки, получая доступ к файлам на компьютере пользователя, извлекая контекст из таких приложений, как Slack, и просматривая Интернет для получения дополнительной информации. Прежде чем Claude предпримет какие-либо действия, он показывает пользователю план и ждет одобрения, по данным Anthropic.
Тем не менее, некоторые пользователи предоставили этим автономным агентам высокий уровень контроля, и существуют риски, когда они передают свои компьютеры без жестких ограничений.
Исследователь безопасности Meta* AI Саммер Юэ в конце февраля написала в Твиттере, что OpenClaw попытался удалить ее почтовый ящик после того, как она попросила ИИ его очистить. «Ничто так не отрезвляет, как сказать своему OpenClaw ‘подтверждать перед действием’ и наблюдать, как он молниеносно удаляет ваш почтовый ящик», — написала она.
Она признала ошибку новичка. «Оказывается, исследователи выравнивания не застрахованы от несоответствия», — написала она. «Я стала слишком самоуверенной, потому что этот рабочий процесс работал с моим тестовым почтовым ящиком неделями. Реальные почтовые ящики ощущаются иначе».
Один из лучших ответов на твит Юэ был фотографией человека, передающего шимпанзе штурмовую винтовку.
Исследователи также обнаружили несколько уязвимостей безопасности в OpenClaw, включая уязвимость к атакам типа prompt injection.
Большой риск, большая награда
В этом и заключается загвоздка: эксперты по ИИ видят огромные потенциальные преимущества автономного ИИ — с возможностью создания огромной эффективности на рабочем месте — но риски существенны.
Райли признает как проблемы безопасности, так и потенциал агентного ИИ совершать действия, которые пользователи не предвидели. Хотя пользователи еще не видели, чтобы автономный ИИ мог выполнять работу быстрее или дешевле людей — токены дороги, — эта технология имеет потенциал изменить природу работы к лучшему, говорит он.
«Когда вы говорите о преимуществах, это определенно замена работы, которая происходит сегодня, но это почти побочный продукт», — говорит он. «На самом деле это позволяет вам координировать действия по-другому, чем раньше, с обменом информацией между командой для более быстрого и качественного выполнения задач».
Сторонники утверждают, что автономные ИИ позволят организациям перераспределить свои человеческие ресурсы на новые задачи, устранив большую часть рутинной работы.
«Как только вы сможете начать доверять многим из этих агентных систем ответственность за что-либо, часто они не делают это быстрее или даже лучше, чем человек», — говорит Райли. «Что они делают, так это не требуют участия человека, а это значит, что он может заниматься другими вещами».
Многие компании все еще находятся на ранних этапах пути автономного ИИ, говорит Упал Саха, технический директор поставщика интеграции данных ИИ bem. Одна из больших проблем — заставить ИИ понять, как работает бизнес, говорит он.
«В большинстве компаний взаимосвязи между процессами, данными и решениями не задокументированы четко», — добавляет он. «Эти знания существуют в разных командах и у разных людей. Агенты могут быть невероятно способными, но без этого операционного контекста они часто угадывают, а не выполняют».
Скорость — это огромное потенциальное преимущество автономных агентов, но это также один из недостатков, отмечает Саха.
«Если у них есть правильный контекст, они могут сжать часы ручной операционной работы в секунды», — добавляет он. «Недостаток в том, что та же скорость может усилить ошибки. Если агент неправильно понимает рабочий процесс или структуру данных, он может повторять эту ошибку в масштабе».
Несмотря на риски, рынок быстро движется в сторону агентного ИИ, и крупномасштабное внедрение ожидается в ближайшие два года, говорит Рассел Твиллигир, руководитель отдела исследований и разработок ИИ в компании BlogBuster, занимающейся генерацией контента с помощью ИИ.
«Мы наблюдаем переход от систем, которые только генерируют текст, к системам, которые могут фактически выполнять многоэтапную работу», — говорит он. «Самое большое преимущество в том, что автономные агенты не просто отвечают на простой запрос. Они могут перейти от намерения к исполнению, собирая информацию, обновляя системы и т. д.».
Однако существует опасность, если автономные агенты внедряются неправильно, добавляет Твиллигир.
«Самый большой недостаток в том, что это будет масштабироваться быстрее, чем мы сможем это контролировать», — говорит он. «Это означает риски безопасности и сбои при каждой новой интеграции».
Безопасность и надзор — главные проблемы, которые необходимо преодолеть, добавляет он. «Когда агент может получить доступ к электронной почте, файлам, браузерам и т. д., вы открываете ящик Пандоры», — говорит Твиллигир. «Проблема в том, как быстро все это происходит. Недавние отчеты о безопасности показывают, что многие компании даже не ведут мониторинг своих ИИ-агентов. По-моему, это просто дикость».
Разрешить эксперименты
Руководителям ИТ-отделов, внедряющим автономных агентов, необходимо внедрить надежные средства контроля, обеспечить чистоту и доступность своих данных, а также правильно настроить разрешения приложений, говорит Райли из The Adaptavist Group.
Несмотря на опасения по поводу безопасности и результатов, Райли призывает ИТ-руководителей разрешить сотрудникам экспериментировать с этой развивающейся технологией из-за неминуемого внедрения. Организации, которые инвестируют в обучение ИИ и позволяют сотрудникам играть с этой технологией, как правило, получают лучшие результаты от внедрений, отмечает он.
«Имея все эти доступные инструменты, люди должны прямо сейчас пытаться понять, как они работают», — говорит он. «Эти вещи появляются так быстро, что обучение и поддержка, которые вы могли бы получить в сфере ИТ-программного обеспечения 10 лет назад, просто отсутствуют. Подход всех к этому таков: просто поиграйте с этим, и вы поймете, как это работает».
См. также:
- Что CISOs должны знать об кошмаре безопасности OpenClaw
- Ваш личный агент OpenClaw также может выполнять приказы со зловредных веб-сайтов
- Агентный ИИ: Кошмар безопасности для CISO в процессе становления?
- Думаете, агентный ИИ трудно защитить сегодня? Подождите пару месяцев
- Агентный ИИ в ИТ-безопасности: где ожидания встречаются с реальностью
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Grant Gross
