Одна деталь в судебном процессе по делу о взрыве Watson Grinding с участием 3M изменила мое представление об управлении промптами. Инженер-эксперт, нанятый 3M, использовал ChatGPT при разработке своего анализа, и среди впоследствии всплывших диалогов был промпт, предписывающий системе «показать, как 3M не несет никакой вины». В отчете не установлено, что 3M поручила эксперту использовать ChatGPT или дала указание ввести этот промпт, и это различие имеет значение. Не менее важно то, что произошло, когда само взаимодействие с ИИ стало релевантным.
Адвокат истцов Уилл Мойе описал допрос эксперта после обнаружения материалов, которые, по-видимому, были сгенерированы с помощью ChatGPT. По словам Мойе, допрос был снят с записи, пока он требовал исходные промпты. Примерно через три часа было предоставлено более 350 страниц ранее не представленных материалов ChatGPT. Проблема больше не ограничивалась тем, что появилось в окончательном отчете эксперта. Диалог, стоящий за этим, стал частью расследования.
Мне это сразу показалось знакомым. Я провел большую часть своей карьеры, работая в средах, где, когда что-то идет не так или оспаривается решение, окончательного документа редко бывает достаточно, чтобы объяснить произошедшее. Вы реконструируете историю из сопутствующих доказательств: одобрения, системного журнала, заявки, сообщения, изменившего направление работы, или шага процесса, который должен был произойти, но не произошел. Официальный артефакт может сообщить вам, где закончился процесс, но сопутствующий след часто предоставляет контекст, необходимый для понимания того, как он туда попал. ИИ теперь добавляет еще один слой к этому следу.
Промпт может стать частью протокола принятия решений
Годами корпоративные обсуждения рисков генеративного ИИ были сосредоточены в основном на входных данных. Организации предупреждали сотрудников не вставлять проприетарный код в ChatGPT, не загружать конфиденциальную информацию о клиентах, не раскрывать персональные данные и не вводить охраняемую интеллектуальную собственность в общедоступные инструменты ИИ. Эти меры контроля необходимы, и мой собственный опыт работы в регулируемых технологических средах подтверждает, почему организации начали с этого. Но защита входных данных решает только часть проблемы. Взаимодействия с ИИ также могут сохранять информацию о процессе, который привел к окончательному ответу.
Рассмотрим инженера, использующего ИИ-помощника для сравнения двух архитектур и постоянно меняющего предположения, пока предпочтительный вариант не выиграет. Аналитик по закупкам может попросить ИИ составить наиболее убедительное обоснование для поставщика, который фактически уже был выбран. Менеджер может использовать его для документирования решения о приеме на работу после того, как это решение было принято, в то время как аудитор или специалист по соответствию может продолжать пересматривать промпты, пока недостаток контроля не будет звучать менее серьезно. Ни один из этих сценариев не требует, чтобы ИИ галлюцинировал или работал со сбоями. Технология могла работать точно так, как было задумано, в то время как взаимодействие фиксирует предположения, предпочтительные результаты, отклоненные альтернативы и направления исследований, которые никогда не появляются в окончательном артефакте.
Это не означает, что промпт доказывает чьи-то рассуждения или намерения. Люди используют ИИ для проверки аргументов, игры в адвоката дьявола, оспаривания собственных предположений или исследования позиций, которые они в конечном итоге могут отвергнуть. Поэтому один промпт, вырванный из контекста, может вводить в заблуждение. Но именно поэтому история взаимодействия может иметь значение: она может предоставить доказательства или контекст того, как развивался анализ, чего не может предоставить только отполированный результат.
Американская ассоциация юристов (American Bar Association) уже изучила истории чатов ИИ как новый источник материалов для раскрытия информации, отчасти потому, что эти разговоры могут сохранять вопросы, заброшенные теории и линии рассуждений, которые никогда не попадают в готовый продукт. С точки зрения операционного управления, я вижу нечто более широкое, чем проблема раскрытия информации. Взаимодействия с ИИ могут стать частью доказательств, окружающих значимое решение, но многие организации еще не решили, когда сохранять эти доказательства, кому они принадлежат или как ими управлять.
Мы защитили входные данные, но упустили жизненный цикл
Дело Watson Grinding изменило один из вопросов, который я теперь задаю, когда думаю о корпоративном ИИ. Я по-прежнему хочу знать, какую информацию организация предоставляет модели, но я также хочу знать, какую запись создают люди при ее использовании. Второй вопрос выводит обсуждение за рамки политик приемлемого использования и переводит его в область управления жизненным циклом информации.
Взаимодействие с ИИ не обязательно заканчивается, когда ответ появляется на экране. Есть сам разговор, сгенерированный вывод, как материал распространяется, где он хранится, как долго он доступен, кто может получить к нему доступ и что происходит, когда кто-то в конечном итоге удаляет его. Большинство организаций потратили гораздо больше времени на размышления о начале этого жизненного цикла, чем о его конце.
Даже такой обыденный аспект, как общий разговор, иллюстрирует проблему. Руководство OpenAI по общим ссылкам ChatGPT объясняет, что любой, у кого есть общая ссылка, может просмотреть связанный разговор. OpenAI удалила отдельную опцию поиска общих разговоров в поисковых системах в 2025 году, но более широкая проблема управления остается: информация, созданная в том, что кажется индивидуальным рабочим пространством, может стать доступной за его пределами через обычную функцию продукта. Умножьте это на предприятие, где сотрудники могут использовать ChatGPT, Copilot, Claude, Gemini и специализированные приложения ИИ с различными настройками хранения, административными средствами управления, возможностями ведения журналов и параметрами общего доступа, и проблема быстро выходит за рамки базового приемлемого использования ИИ.
Я не думаю, что решение заключается в сохранении всего. Один из уроков, который я усвоил, работая с управленческими и операционными процессами, заключается в том, что больше документации не создает автоматически больше контроля. Организации могут накопить огромное количество доказательств и все равно бороться за определение того, что имеет значение, кому оно принадлежит или как оно должно использоваться. Сохранение каждого промпта на неопределенный срок создаст собственные риски конфиденциальности, безопасности, раскрытия информации и операционные риски.
Лучший подход — позволить последствиям работы определять уровень управления. Сотрудник, просящий ИИ сделать электронное письмо более понятным, не должен рассматриваться так же, как инженер, использующий ИИ для поддержки анализа безопасности, аудитор, оценивающий контроль, менеджер, принимающий решение о приеме на работу, или руководитель, полагающийся на ИИ для информирования о крупном деловом решении. По мере увеличения потенциальных последствий возрастает и необходимость понимания существенной роли ИИ в процессе.
Для более рискованных применений это может означать сохранение достаточного количества данных о происхождении для реконструкции произошедшего: существенные промпты и выходные данные, использованная система ИИ, доказательства значимой человеческой проверки и достаточный контекст для понимания того, как ИИ способствовал окончательному решению. Цель состоит не в том, чтобы архивировать каждую итерацию мышления человека. Цель — сохранить достаточно информации о процессе, чтобы объяснить, что произошло, когда важна подотчетность.
Это также требует четкой ответственности. Команды ИИ не должны самостоятельно принимать решения об управлении записями, а юридические или комплаенс-команды не должны узнавать о том, как платформа ИИ сохраняет информацию, только после начала судебного разбирательства или расследования. Руководителям ИТ (CIO) требуется определенная ответственность в области технологий, управления записями, юриспруденции, безопасности и соответствия требованиям для принятия решений о том, что сохраняется, что намеренно истекает, что может быть передано, что может быть восстановлено и как взаимодействия с ИИ с более высоким риском вписываются в юридические запреты или расследования.
Эти принципы могут звучать больше как управление информацией, чем как инженерия промптов. В этом и суть. Поскольку ИИ все глубже проникает в значимую корпоративную работу, задача управления больше не ограничивается тем, использовал ли кто-то одобренную модель или ввел запрещенную информацию. Организации также должны понимать, какие доказательства может создать само взаимодействие.
Сможете ли вы реконструировать решение через год?
Одна привычка, которую я выработал, работая с операционными системами, — это думать назад от будущего расследования. Я не предполагаю, что каждый процесс потерпит неудачу, но вопрос о том, какие доказательства понадобятся через шесть месяцев или год, заставляет более четко обсуждать подотчетность. Если бы кто-то оспорил решение постфактум, могла бы организация установить, какая информация была доступна, какую роль играл ИИ, что человек принял или отверг, и кто в конечном итоге нес ответственность за решение?
Правовое регулирование разговоров с ИИ все еще развивается, и не каждый промпт автоматически станет доказательством, подлежащим раскрытию. Привилегии, защита рабочего продукта, релевантность, владение, пропорциональность и обстоятельства конкретного дела могут повлиять на то, должны ли материалы быть представлены. Например, суд в Нью-Йорке недавно отклонил попытку получить записи ChatGPT у стороны по делу, посчитав, что оспариваемые материалы являются защищенным юридическим исследованием. Эта неопределенность не должна побуждать организации игнорировать проблему. Она должна побуждать их принимать преднамеренные управленческие решения до того, как аудитор, регулятор, следователь или адвокат противной стороны поставят этот вопрос.
Судебный процесс по делу Watson Grinding не убедил меня в том, что каждый промпт ИИ является записью. Он убедил меня в том, что организациям нужно знать, когда взаимодействие с ИИ становится достаточно значимым, чтобы относиться к нему как к записи.
Мой коллега Джош Коупленд, специалист по кибербезопасности, запоминающимся образом сформулировал риск ответственности: «ИИ не будет свидетельствовать за вас; он не будет отбывать тюремное заключение за вас; он не будет платить ваши штрафы; но он абсолютно точно будет свидетельствовать против вас».
Остается один вопрос, на который, по моему мнению, каждая организация, использующая ИИ в значимой работе, должна уметь ответить: если бы это решение было оспорено через год, смогли бы мы реконструировать, как оно было фактически принято?
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jess J. Montgomery
