Группа разработала их, когда участники собрались в эпицентре мира кибербезопасности — на конференции Black Hat, которая проходит на этой неделе в Лас-Вегасе.
Пока что эти рекомендации не являются чем-то сверхъестественным. Предложения охватывают такие области, как конфиденциальное сообщение об инцидентах ИИ-безопасности, оповещение пострадавших и последующий анализ без поиска виноватых, чтобы все могли извлечь из них уроки.
В то же время участники OSAA также вносят и каталогизируют отдельные части своих технологий с открытым исходным кодом, которые могут быть полезны. Как это обычно бывает в подобных отраслевых организациях, со временем это может сложиться в открытое средство для обеспечения безопасности ИИ-агентов предприятия или защиты от недобросовестных ИИ-атакующих, таких как модель OpenAI, проникшая в Hugging Face. (Hugging Face также является членом этой группы.)
Например, Nvidia отметила, что предлагает целое семейство открытых моделей, а также сканер уязвимостей для LLM с открытым исходным кодом под названием Garak; Okta работает над технологией идентификации агентов; Red Hat — над управлением агентами; а Amazon предоставила как инструмент для создания открытых агентов, Strands Agents, так и язык авторизации Cedar. И это лишь некоторые примеры.
Сейчас в группу входит множество крупных имен, включая Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, но есть и заметные отсутствующие, такие как Anthropic, OpenAI и Google.
Интересно, что и OpenAI, и Google подписали первоначальное открытое письмо, которое породило эту группу. Письмо, опубликованное на прошлой неделе, призывало Белый дом поддерживать усилия в области ИИ с открытым исходным кодом, а не подавлять их. Его продвигала Nvidia, и его подписали более 200 технологических компаний.
Хотя холодное отношение Anthropic к письму и отраслевой группе на данный момент не является сюрпризом, и OpenAI, и Google выпустили собственные модели с открытыми весами. Google также известен как активный сторонник открытого исходного кода. Посмотрим, присоединятся ли они, когда эта группа наберет обороты.
Тем временем группа действует со скоростью ИИ. Прошло всего несколько недель с тех пор, как появилась новость о том, что администрация Трампа рассматривает возможность запрета китайских моделей с открытыми весами, что вызвало беспокойство в отрасли, вылившееся в открытое письмо.
Что бы в итоге ни произошло с китайскими моделями с открытыми весами в США, оперативные действия этой влиятельной группы, похоже, идут на пользу американской экосистеме открытого ИИ. Некоторые участники экосистемы, например сооснователь и технический директор американской лаборатории ИИ с открытыми весами Arcee, утверждают, что в конечном счете это единственный способ противостоять любой угрозе — реальной или воображаемой — которую китайские ИИ-лаборатории представляют для Соединенных Штатов.
«Открытость может быть одним из важнейших путей к безопасности ИИ», — написали участники этой отраслевой группы в своем письме. Похоже, они готовы немедленно подкрепить свои слова делом — и своими технологиями.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Julie Bort
