В прошлом месяце Джейсон Грэд поздно вечером предупредил 20 сотрудников своего технологического стартапа. «Вы, вероятно, видели, как Clawdbot набирает популярность в X/LinkedIn. Хотя это и круто, в настоящее время он непроверен и представляет высокий риск для нашей среды», — написал он в сообщении в Slack с эмодзи красной сирены. «Пожалуйста, держите Clawdbot подальше от всего оборудования компании и рабочих учетных записей».
Грэд — не единственный руководитель в сфере технологий, который выразил обеспокоенность сотрудникам по поводу экспериментального агента ИИ, который короткое время был известен как MoltBot, а теперь называется OpenClaw. Руководитель Meta* сообщил, что недавно велел своей команде не использовать OpenClaw на рабочих ноутбуках под угрозой увольнения. Руководитель сообщил журналистам, что считает программное обеспечение непредсказуемым и может привести к нарушению конфиденциальности при использовании в защищенных средах. Он согласился говорить на условиях анонимности, чтобы высказаться откровенно.
Питер Стайнбергер, единственный основатель OpenClaw, запустил его в ноябре прошлого года как бесплатный инструмент с открытым исходным кодом. Но его популярность резко возросла в прошлом месяце, когда другие разработчики добавили функции и начали делиться своим опытом использования в социальных сетях. На прошлой неделе Стайнбергер присоединился к OpenAI, разработчику ChatGPT, которая заявляет, что сохранит OpenClaw с открытым исходным кодом и будет поддерживать его через фонд.
OpenClaw требует базовых знаний в области разработки программного обеспечения для настройки. После этого ему требуется лишь ограниченное количество указаний, чтобы взять под контроль компьютер пользователя и взаимодействовать с другими приложениями для выполнения таких задач, как организация файлов, проведение веб-исследований и онлайн-покупки.
Некоторые специалисты по кибербезопасности публичнопризвали компании принять меры для строгого контроля использования OpenClaw их сотрудниками. А недавние запреты показывают, как компании быстро действуют, чтобы обеспечить приоритет безопасности над желанием экспериментировать с новыми технологиями ИИ.
,
«Наша политика гласит: «сначала смягчить, потом расследовать», когда мы сталкиваемся с чем-либо, что может нанести вред нашей компании, пользователям или клиентам», — говорит Грэд, соучредитель и генеральный директор Massive, которая предоставляет инструменты интернет-прокси миллионам пользователей и компаний. Он говорит, что его предупреждение сотрудникам было отправлено 26 января, еще до того, как кто-либо из его сотрудников установил OpenClaw.
В другой технологической компании, Valere, которая занимается разработкой программного обеспечения для таких организаций, как Университет Джонса Хопкинса, сотрудник 29 января опубликовал сообщение об OpenClaw во внутреннем канале Slack для обмена новыми технологиями для потенциального тестирования. Президент компании быстро ответил, что использование OpenClaw строго запрещено, как сообщает WIRED генеральный директор Valere Гай Пистоне.
«Если бы он получил доступ к машине одного из наших разработчиков, он мог бы получить доступ к нашим облачным сервисам и конфиденциальной информации наших клиентов, включая информацию о кредитных картах и кодовые базы GitHub», — говорит Пистоне. «Он довольно хорошо заметает следы, что тоже пугает меня».
Через неделю Пистоне разрешил исследовательской группе Valere запустить OpenClaw на старом компьютере сотрудника. Цель состояла в том, чтобы выявить недостатки в программном обеспечении и потенциальные исправления для повышения его безопасности. Исследовательская группа позже рекомендовала ограничить круг лиц, которым разрешено отдавать приказы OpenClaw, и выводить его в Интернет только с паролем для панели управления, чтобы предотвратить несанкционированный доступ.
В отчете, опубликованном для WIRED, исследователи Valere добавили, что пользователи должны «принять тот факт, что бота можно обмануть». Например, если OpenClaw настроен на обобщение электронной почты пользователя, хакер может отправить вредоносное письмо этому человеку с инструкцией ИИ поделиться копиями файлов на компьютере человека.
,
Но Пистоне уверен, что можно принять меры предосторожности, чтобы сделать OpenClaw более безопасным. Он дал команде в Valere 60 дней на расследование. «Если мы не думаем, что сможем сделать это в разумные сроки, мы откажемся», — говорит он. «Тот, кто придумает, как сделать его безопасным для бизнеса, определенно станет победителем».
Некоторые компании, обеспокоенные OpenClaw, предпочитают полагаться на существующие меры кибербезопасности, а не вводить формальный или разовый запрет. Генеральный директор крупной компании-разработчика программного обеспечения заявил, что на корпоративных устройствах разрешено только около 15 программ. Все остальное должно автоматически блокироваться, говорит руководитель, который говорил на условиях анонимности, чтобы обсудить внутренние протоколы безопасности. Он отметил, что, хотя OpenClaw и является инновационным, он сомневается, что ему удастся незаметно работать в сети компании.
Ян-Юст ден Бринк, технический директор пражского разработчика ПО для соответствия требованиям Dubrink, говорит, что купил выделенную машину, не подключенную к системам или учетным записям компании, которую сотрудники могут использовать для экспериментов с OpenClaw. «В настоящее время мы не решаем бизнес-задачи с помощью OpenClaw», — говорит он.
Massive, компания, занимающаяся интернет-прокси, осторожно изучает коммерческие возможности OpenClaw. Грэд говорит, что они протестировали инструмент ИИ на изолированных машинах в облаке, а затем на прошлой неделе выпустили ClawPod — способ для агентов OpenClaw использовать сервисы Massive для просмотра веб-страниц. Хотя OpenClaw по-прежнему не приветствуется в системах Massive без защитных мер, соблазн новой технологии и ее потенциал получения прибыли были слишком велики, чтобы игнорировать. OpenClaw «может стать взглядом в будущее. Вот почему мы его разрабатываем», — говорит Грэд.
Эта история изначально появилась на wired.com.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paresh Dave, wired.com
