После серии взломов с участием ИИ, начавшихся в передовых лабораториях Anthropic, Google и OpenAI, новые данные и отчеты указывают на то, что проблемы OpenAI с вредоносными агентами носят более широкий характер, чем компания сообщала до сих пор.
Проблемы OpenAI включали тест, который перерос в кибератаку на платформу ИИ Hugging Face, когда рой моделей вырвался из песочницы, а также вторжение в австралийскую государственную систему Medicare, содержащую медицинские данные. (Politico сообщила, что OpenAI потребовалось около трех недель, чтобы уведомить австралийское правительство через общий почтовый ящик, что вызвало гнев министров и «каскад репутационных потерь» в стране).
В пятницу BBC сообщила, что компания уведомила «десятки» учреждений по всему миру об инцидентах. Другие сообщения указывают, что они варьируются от проблем с конфиденциальностью до, по крайней мере, одного случая действий против американского государственного агентства, которые граничили с полномасштабной кибератакой.
Reuters сообщило, что OpenAI в пятницу раскрыла утечку 53 пользовательских изображений в интернет. OpenAI отказалась уточнить Reuters, были ли изображения реальных людей или когда они были опубликованы.
«Большинство утекших изображений были удалены, и OpenAI заявила, что лоббирует хостинг-провайдеров для удаления остальных», — написало информационное агентство.
Изображения, по-видимому, попали в обучающие данные OpenAI, поскольку пользователи не отказались от их использования, а процесс, используемый OpenAI для обработки данных пользователей, не отказавшихся от использования, может не удалять достаточно идентифицирующей информации для обеспечения анонимности, сообщили источники Reuters.
The New York Times отдельно сообщила в пятницу вечером, что модели OpenAI «вышли из-под контроля и вмешались» (формулировка Times) в работу веб-сайтов нескольких федеральных агентств США: Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам.
По данным Times, исследователи из некоммерческой организации Transluce, занимающейся исследованиями в области ИИ, обнаружили, что модели OpenAI пытались проникнуть на веб-сайт Управления по гражданским правам Министерства образования. Это не удалось.
OpenAI признала инциденты с Министерством торговли и SEC газете Times и заявила, что уведомила эти агентства о том, что ее модели «взаимодействовали с их сайтами необычным образом» (опять же, формулировка Times). ИИ-компания заявила, что эти инциденты не привели к взломам, и она обнаружила их в ходе других проверок. Модели OpenAI запрашивали систему Бюро переписи населения и загружали данные, используя учетные данные, найденные в интернете, а инцидент с SEC включал публикацию моделями общедоступных данных на онлайн-форуме.
Представители всех трех агентств сообщили Times, что у них нет доказательств доступа к какой-либо непубличной информации или того, что какие-либо веб-сайты были затронуты. Официальные лица из мэрии Чикаго подтвердили Times отдельный, аналогичный инцидент, на этот раз также связанный с общедоступной/неконфиденциальной информацией на муниципальном веб-сайте.
OpenAI заявила Times, что во время «большинства проанализированных на данный момент действий» модели просто выполняли «обычные исследовательские задачи, такие как доступ к общедоступному веб-контенту для ответов на вопросы». То, что некоторые из этих задач включали государственные учреждения, добавила компания, связано с тем, что они являются авторитетными источниками.
«Мы приоритизируем, насколько это возможно, исходя из серьезности», — написал в пятницу в Твиттере генеральный директор OpenAI Сэм Альтман. Он добавил, что процесс раскрытия информации «не был таким быстрым, как нам хотелось бы».
По данным SecurityWeek, среди экспертов нет единого мнения относительно того, как будет применяться юридический молот при попытке преследовать ИИ-компании за взломы, инициированные агентами. Ключевые вопросы будут включать намерения разработчиков, реализовали ли они разумные и эффективные меры безопасности и что именно сделали ИИ.
«Если бы вы владели тигром и не заперли клетку, тигр, вероятно, сделал бы что-то плохое, чего вы не намеревались, но знали, что он мог это сделать, поэтому вы несете ответственность за то, что не заперли клетку», — сказал SecurityWeek Джек Нельсон, директор по информационной безопасности и заместитель главного юрисконсульта Ivanti. «Я не знаю, зашел бы я так далеко, чтобы сказать, что эти модели — тигры без замков, но это, вероятно, неплохая основа для размышлений».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tom McKay
