Компания HackerOne разъяснила свою позицию в отношении генеративного ИИ (GenAI) после опасений исследователей, что их отчеты используются для обучения моделей.
В сети X разразился скандал после того, как в прошлом месяце платформа bug bounty запустила свой продукт Agentic PTaaS, который, по их словам, «обеспечивает непрерывную проверку безопасности, сочетая автономное выполнение агентов с элитной человеческой экспертизой».
Компания заявила, что агенты «обучаются и совершенствуются с использованием проприетарной разведывательной информации об эксплойтах, основанной на многолетнем тестировании реальных корпоративных систем».
Однако это побудило исследователей задать вопрос, откуда именно берутся данные для обучения агентов. «Как бывший охотник H1, я надеюсь, вы не использовали мои отчеты для обучения ваших ИИ-агентов», — написал @YShahinzadeh в X.
Другой исследователь заявил: «Мы буквально обучаем свою замену». @AegisTrail высказался зловеще: «Когда белые хакеры чувствуют, что судебная система настроена против них, привлекательность “темной стороны” становится вопросом гнева и выживания, а не этики. Просто говорю».
Генеральный директор HackerOne Кара Спрэг (Kara Sprague) выступила в LinkedIn в конце прошлой недели, чтобы «обратиться к этому прямо и недвусмысленно».
Она заявила: «HackerOne не обучает модели генеративного ИИ, ни внутренне, ни через сторонних поставщиков, на основе материалов исследователей или конфиденциальных данных клиентов».
Более того, она продолжила, материалы исследователей не используются для «обучения, дообучения или иного улучшения моделей генеративного ИИ». И сторонним поставщикам моделей не разрешается «хранить или использовать данные исследователей или клиентов для обучения собственных моделей».
Hai — агентская система ИИ от HackerOne — была разработана «для ускорения достижения результатов, таких как проверенные отчеты, подтвержденные исправления и выплаченные вознаграждения, при сохранении целостности и конфиденциальности вклада исследователей», — сказала она.
Спрэг заверила исследователей: «Вы не являетесь входными данными для наших моделей… Hai разработан для дополнения вашей работы, а не для ее замены».
Этот ажиотаж побудил других изложить свою позицию относительно данных исследователей и ИИ.
Основатель и генеральный директор Intigriti, Стёйн Янс (Stijn Jans), заявил, что хочет быть «абсолютно ясным» относительно своей позиции, сообщив исследователям через LinkedIn: «Вы владеете своей работой».
«Мы применяем ИИ для создания взаимной выгоды для клиентов и исследователей, усиливая человеческое творчество, чтобы вы могли продолжать находить сложные, критические уязвимости, которые модели часто упускают».
«Мы развиваем наши ИИ-возможности, чтобы помочь исследователям быстрее приносить пользу и обеспечить более быструю и точную обработку отчетов нашей командой».
Условия использования Bugcrowd гласят: «Мы не разрешаем третьим лицам обучать модели ИИ, LLM или генеративного ИИ на данных клиентов или исследователей».
В то же время, платформа возлагает на исследователей ответственность за использование ими инструментов GenAI. «Использование GenAI не освобождает их от строгого соблюдения правил платформы или конкретных программных областей», в то время как «автоматизированные или непроверенные результаты не принимаются в качестве действительных представлений».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Joe Fay
