Компании, стремящиеся к сотрудничеству с крупными предприятиями, должны продемонстрировать, что их системы защищают данные клиентов, соответствуют необходимым требованиям и работают под постоянным контролем. Эти стандарты определяют, может ли продукт быть принят, интегрирован или заслуживать доверия в масштабе. В результате они становятся основным требованием для любой организации, надеющейся выйти на регулируемые или чувствительные с точки зрения безопасности рынки.
Проблема заключается в том, что соответствие этим стандартам может занимать слишком много времени, замедляя циклы продаж и истощая ресурсы компаний, которым необходимо действовать быстро. Новые инструменты в области искусственного интеллекта могут сократить ручной труд, связанный с этим, чтобы облегчить бремя, но только если команды понимают, как эти системы принимают решения. Без такой прозрачности одной лишь скорости недостаточно, чтобы заслужить доверие.
Comp AI создан для решения этой проблемы. Платформа полагается на автоматизированных агентов, которые демонстрируют каждый шаг своих проверок, предоставляя организациям прямое представление о том, как получаются результаты.
В центре этого подхода — ведущий инженер Мин Чун Фу, который руководит тем, как система сообщает о своих действиях через решения по дизайну и интерфейсу. Его работа основана на прозрачности, поскольку он считает, что автоматизация работает только тогда, когда пользователи могут точно видеть, что делает система и почему.
Компании, особенно в сфере технологий, обычно должны соответствовать таким стандартам, как SOC 2 и GDPR, чтобы продемонстрировать ответственное управление своими системами. SOC 2, например, проверяет, как компании защищают данные клиентов в рамках таких мер, как разрешения на доступ и управление изменениями. GDPR, с другой стороны, контролирует, как международные компании собирают и хранят личную информацию. Эти требования стали предварительными условиями для партнерства с предприятиями, иногда являясь ключевым фактором для продвижения контракта.
Автоматизация предлагает способ сжать этот временной график, поскольку она может взять на себя ручную работу, которая ранее выполнялась с помощью снимков экрана, электронных таблиц и повторных человеческих проверок. Но делегирование решений с высокими ставками непосредственно ИИ создает свои собственные проблемы, особенно когда обоснование системы невидимо. Именно из-за этой неопределенности недавние отраслевые опросы показывают, что 56% генеральных директоров заявляют, что не готовы напрямую интегрировать ИИ в рабочие процессы соблюдения нормативных требований.
Мин Чун Фу рассматривает эту нерешительность как признак того, что инфраструктура автоматизации не успевает за своим потенциалом. Он утверждает, что компании могут правильно использовать ИИ только после того, как смогут отслеживать каждый шаг автоматизированной проверки и понимать, как был получен результат. «Другие поставщики тратят месяцы, помогая вам предоставить доказательства. ИИ может сделать это за несколько часов, но только если люди доверяют тому, что он делает», — говорит он.
Comp AI подходит к этой задаче, позволяя пользователям проводить аудиты с помощью запросов на естественном языке. Пользователи просто просят систему, например, подтвердить, применяется ли двухфакторная аутентификация в Google Workspace. Оттуда система создает скрипты и запускает их в безопасной среде, выдавая результаты в режиме реального времени без необходимости ручной, двусторонней проверки. Конечная цель состоит в том, чтобы каждый шаг становился наблюдаемым по мере его выполнения, предоставляя компаниям немедленные, проверяемые доказательства вместо ожидания человеческой проверки.
Как объясняет Фу, «Вы можете запросить аудит, и мы покажем вам среду и точный процесс. Пользователи должны знать, что происходит, а не просто надеяться на это».
Благодаря такой конструкции платформа может выполнять большое количество одновременных проверок в различных средах, проверяя политики, которые ранее требовали координации между несколькими специалистами. Задачи, которые раньше требовали длинных цепочек доказательств, теперь могут быть подтверждены за минуты, и компании могут быть уверены, что, несмотря на скорость, они могут доверять конечному результату, поскольку могут отследить его.
Как ведущий инженер-разработчик, Фу подходит к дизайну продукта в Comp AI как к основе доверия к платформе, причем каждый экран создан для того, чтобы ясно показать, что делает система и почему. Эта структура отражает его убеждение, что дизайн неотделим от того, насколько пользователи могут доверять этим автоматизированным проверкам.
Визуальная прозрачность подкрепляет этот принцип, отображая фрагменты кода, журналы действий и информируя пользователей о четких шагах системы по мере их выполнения. Цель состоит в том, чтобы устранить неопределенность с помощью прямых доказательств. Как он выражается: «Для многих ИИ — это черный ящик. Мой подход заключается в том, чтобы сделать все простым для понимания».
Эстетика интерфейса добавляет еще один уровень к тому, как Comp AI завоевывает доверие пользователей: четкие макеты, которые напрямую показывают каждый процесс, и представление данных, которые стремятся имитировать, как инженер вручную проверял бы аудит. Последовательные интервалы, читаемые журналы и беспрепятственные представления системы становятся частью того, как организации оценивают надежность платформы.
Его работа над фронтендом и бэкендом платформы делает возможным такой уровень детализации. Он контролирует логику сбора доказательств, потоки представления этих доказательств и шаблоны пользовательского интерфейса, которые их обрамляют, что дает ему контроль над тем, как прозрачность проявляется сквозным образом. Ответственность охватывает все: от обеспечения безопасности конфиденциальных учетных данных до настройки того, как результаты аудита отображаются на экране.
Быстрый темп итераций усиливает значимость каждого решения, особенно когда изменения могут повлиять на всю платформу. Редакции должны оставаться обратимыми, стабильными и понятными для пользователей, которые полагаются на точные проверки. «Как ведущий инженер, каждое изменение имеет значение; вы колеблетесь, прежде чем выпустить что-либо в продакшн. Но в этом и заключается вся прелесть — в этом и риск», — говорит он.
Сокращая время, затрачиваемое на проверку соответствия, Comp AI стремится помочь компаниям сохранить свои ресурсы, ускорить трудоемкий процесс, который может остановить сделки, и непрерывно отслеживать свои рабочие процессы. Для отраслей, зависящих от нормативных проверок, это изменение меняет представление команд о готовности и рисках.
Фу считает, что более глубокое изменение является культурным. Поскольку ИИ становится неотъемлемой частью корпоративных рабочих процессов, соблюдение нормативных требований — это область, которая требует более высокого стандарта подотчетности, чем большинство. Это означает, что ожидание того, что автоматизированные системы будут детально раскрывать свои действия, может (и, по мнению Фу, должно) стать базовым требованием для всего корпоративного программного обеспечения.
Работа Мин Чун Фу в Comp AI показывает путь вперед для такого будущего, в котором компании могут внедрять ИИ, не опасаясь поставить под угрозу доверие пользователей. Для области, определяемой плотными нормативными актами и осторожными решениями, эта перспектива предлагает путь вперед, где компании могут полагаться на ИИ, не беспокоясь о потенциальном злоупотреблении, что приведет к еще более широкому внедрению этой технологии в обычные рабочие процессы.
Автор – Carl Williams
