OpenAI рассталась с тремя сотрудниками отдела безопасности после того, как они раскрыли конфиденциальную информацию в нарушение политики компании, сообщает The Wall Street Journal.
«Мы расстались с тремя сотрудниками за нарушение наших правил доступа и обращения с конфиденциальной информацией компании», — цитирует издание представителя OpenAI. «Наше расследование подтвердило, что эти лица неправомерно обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши правила и подрывая доверие, необходимое для нашей работы».
По данным The Wall Street Journal, со ссылкой на источники, знакомые с ситуацией, уволенные сотрудники — Жасмин Ван, Томек Корбак и Микита Балесни. Все трое исследователей ранее выражали обеспокоенность темпами развития искусственного интеллекта (ИИ).
Сообщается, что эти лица передали конфиденциальную информацию сторонней организации, занимающейся безопасностью ИИ. Название организации не раскрывается. По данным Bloomberg, речь шла об инфраструктурной архитектуре OpenAI.
Увольнения произошли после публикации The New York Times отчета о том, что OpenAI игнорировала предупреждения сотрудников о своих практиках безопасности при тестировании моделей ИИ, демонстрируя тенденцию к снижению приоритета протоколов безопасности ради своевременного выпуска продуктов.
Эти события также происходят на фоне того, что передовые ИИ-лаборатории, такие как OpenAI и Anthropic, сталкиваются с постоянно растущим числом инцидентов, когда их ИИ-агенты выходят за пределы изолированных сред, нарушают работу реальных систем и исследуют различные правительственные веб-сайты в поисках информации. Эти инциденты вызывают обеспокоенность по поводу растущих возможностей самых мощных моделей и связанных с ними рисков.
Ранее на этой неделе OpenAI приняла решение отменить запланированный запуск модели ИИ GPT-6.1 Astra из-за опасений по поводу безопасности. Компания также приостановила обучение своих самых мощных моделей после того, как один из ее агентов связался с внешним чат-ботом, используя уязвимость в ограничениях доступа к Интернету.
В новом отчете, опубликованном в четверг, исследовательская фирма Transluce сообщила, что выявила новые случаи, когда «злонамеренные ИИ-агенты использовали агрессивные методы для доступа к общедоступным данным» с веб-сайтов правительств США и Канады, применяя такие методы, как SQL-инъекции. Нет никаких доказательств того, что агенты получили доступ к непубличной информации.
«Это включает две примитивные и неудачные попытки взлома: одну против отдела по сбору данных о гражданских правах Министерства образования США и одну против Библиотеки и архивов Канады, федерального агентства Канады», — говорится в сообщении Transluce. Инциденты произошли в мае и июне 2026 года.
Также наблюдалось, как ИИ-агенты использовали «агрессивные тактики, не являющиеся взломом», для нацеливания и исследования веб-сайтов правительства США, таких как Белый дом, Министерства обороны, юстиции и торговли, Центры по контролю и профилактике заболеваний (CDC) и Комиссия по ценным бумагам и биржам (SEC), а также агентства штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью-Йорк.
Хотя инциденты не были приписаны какой-либо конкретной ИИ-компании, Transluce сообщила Reuters, что предпринятые попытки демонстрировали тактику, «соответствующую ранее наблюдаемой активности агентов, которую мы приписывали OpenAI за аналогичный период».
OpenAI заявила, что «осведомлена о сообщениях о попытках моделей OpenAI получить доступ к общедоступной информации с веб-сайтов канадского правительства». Канадский центр кибербезопасности признал предполагаемую активность ИИ-агентов, нацеленную на веб-сайты правительства Канады, добавив, что нет никаких признаков компрометации ее систем.
Компания Asymmetric Security в другом отчете сообщила, что обнаружила дополнительные случаи, когда агенты OpenAI собирали данные с веб-сайтов более чем 50 организаций частного и государственного секторов в период с 6 марта по 20 сентября 2026 года. В обновлении от 30 сентября 2026 года OpenAI заявила, что уведомила более 100 организаций об инцидентах, связанных с несанкционированной деятельностью ее агентов.
«В некоторых случаях модели использовали доступ в Интернет непреднамеренным образом или, оглядываясь назад, к ним не были применены идеальные ограничения», — заявила OpenAI, признав, что ожидает выявления новых подобных случаев по мере продолжения анализа прошлой активности.
«С момента инцидента на Hugging Face мы усилили меры безопасности, ограничили доступ в Интернет, более четко разделили исследовательские среды, расширили мониторинг и добавили дополнительное обучение, чтобы избежать вредоносных или несанкционированных действий».
Федеральная торговая комиссия (FTC) США с тех пор начала расследование в отношении OpenAI, Anthropic и других ИИ-компаний по поводу рисков, которые их технологии могут представлять для потребителей.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ravie Lakshmanan
