Растущий раскол среди ведущих компаний в области искусственного интеллекта (ИИ) относительно того, как обеспечить безопасность все более мощных моделей, начинает создавать проблемы для корпоративных ИТ-отделов, что влияет на то, как организации получают доступ к системам ИИ, развертывают их и управляют ими.
Последняя точка напряжения возникла после того, как генеральный директор *Meta Марк Цукерберг призвал к созданию нейтральных оценщиков для независимого тестирования моделей ИИ, выступая против призывов конкурентов замедлить разработку или усилить координацию.
«Доверие и согласованность быстро становятся важнейшими возможностями, которые будут отличать агентов и модели. Любая лаборатория, которая не сосредоточится на согласованности, отстанет», — написал Цукерберг в своем посте в X.
«Привлечение независимых оценщиков и консультантов является лучшей отраслевой практикой», — добавил он, отметив, что *Meta уже делает это в нескольких областях.
Его комментарии последовали за серией публичных предложений от лидеров индустрии ИИ, включая Дарио Амодеи, который выступал за более осторожный темп разработки, и Сэма Альтмана, который призвал к сотрудничеству в области стандартов безопасности.
Дебаты обострились на фоне раскрытия информации от лабораторий ИИ и политиков о потенциальном злоупотреблении передовыми системами. Anthropic заявила, что ограничила попытки использования своих моделей Claude в конфиденциальных областях, в то время как OpenAI взаимодействовала с политиками по поводу рисков, связанных с ИИ, согласно заявлениям компаний и отчетам.
Корпоративные опасения
Хотя дебаты часто преподносятся как выбор между замедлением инноваций и усилением надзора, аналитики считают, что предприятия должны сосредоточиться не столько на том, какой подход возобладает, сколько на уже формирующихся операционных последствиях.
«Различные подходы к безопасности сделают доступ к передовым моделям ИИ менее предсказуемым, а не приведут к общеотраслевому замедлению», — сказал Сушован Мукхопадхай, директор-аналитик Gartner. По его словам, поставщики, вероятно, будут применять разные графики выпуска, региональную доступность, уровни доступа и ограничения использования, что означает, что предприятия могут столкнуться с аналогичными возможностями «в разное время и при существенно разных условиях».
Мукхопадхай отметил, что предприятия должны планировать вариативность доступа, а не предполагать постоянную доступность у разных поставщиков или в разных географических регионах.
«Я считаю, что на этой неделе передовой ИИ стал управляемым предложением», — сказал Бхупендра Чопра, директор по доходам Kanerika. «В течение трех лет CIO могли предполагать, что следующая модель просто появится. Теперь передовая модель ведет себя скорее как критически важный компонент от поставщика, даты поставки которого зависят от внешних рецензентов и экспортных правил».
Чопра добавил, что «любая дорожная карта ИИ, построенная на ожидании конкретной модели в конкретную дату, несет в себе риск поставок, который она не учла».
Давление на безопасность растет независимо от замедления
Аналитики считают, что простое замедление разработки вряд ли существенно изменит корпоративные риски, особенно с учетом распространения моделей с открытым исходным кодом.
«Самое главное — не сама пауза. Важно то, что лидеры компаний, занимающихся ИИ, пришли к согласию», — сказал Нихил Гупта, основатель и генеральный директор ArmorCode.
Гупта отметил, что ландшафт угроз уже изменился. «Даже если компании возьмут паузу, модели ИИ с открытым исходным кодом уже существуют», — сказал он. «Я не уверен, что замедление работы некоторых компаний существенно изменит то, что могут сделать противники».
«Даже если разработка ИИ завтра замедлится, безопасность должна ускориться», — добавил Гупта. «Работа по обеспечению безопасности этих систем фактически стала в десять раз сложнее».
Появляется новый уровень «гарантии ИИ»
Фокус на оценке способствует появлению того, что аналитики назвали новым уровнем «гарантии ИИ», где третьи стороны оценивают модели на предмет безопасности и соответствия требованиям.
«Вероятно, появится отдельный уровень гарантии ИИ, но предприятиям не следует ожидать, что одна сертификация установит безопасность системы ИИ», — сказал Мукхопадхай. «Корпоративные риски также зависят от данных, инструкций системы, инструментов, агентов и средств контроля развертывания».
Чопра отметил, что предприятия рискуют неправильно истолковать такие оценки. «Отделы закупок могут увидеть оценку третьей стороны и посчитать модель проверенной», — сказал он. «Через год это станет формальностью».
Вместо этого, по его словам, предприятиям придется проводить собственную проверку. «CIO, которые будут действовать на опережение, протестируют каждую модель на своих данных перед тем, как она попадет в производственную среду».
Фрагментация усложняет стратегии использования нескольких моделей
Для CIO, реализующих стратегии с несколькими поставщиками, различные подходы поставщиков могут создать дополнительную сложность.
«Фрагментация уже была нормой. Расхождение во мнениях по безопасности усугубляет ее», — сказал Чопра.
Он отметил, что риск наиболее острый в переходные периоды. «Для предприятия, использующего несколько моделей, уязвимость заключается в передаче данных», — сказал он. «Когда модель задерживается или заменяется, система может вести себя по-разному».
«Я бы поставил неподтвержденную замену модели выше зависимости от поставщика», — сказал Чопра.
Гупта подчеркнул важность открытых архитектур. «Фреймворк должен быть открытым, а не привязанным к какому-либо одному поставщику», — сказал он.
Мукхопадхай добавил, что предприятия должны готовиться к тому, что модели станут недоступными или будут ограничены в использовании.
CIO призывают к повышению устойчивости
Аналитики считают, что предприятиям необходимо разрабатывать стратегии ИИ, которые могут адаптироваться к изменениям в доступности, ценообразовании и управлении.
«Для критически важных приложений CIO должны отделять элементы управления приложениями и бизнес-логику от базовой модели», — сказал Мукхопадхай.
Чопра подчеркнул гибкость. «Уровень маршрутизации между приложениями и поставщиками моделей превращает переключение в настройку», — сказал он, добавив, что контракты должны охватывать сроки вывода из эксплуатации.
Он также указал на ценовые последствия. «Ограниченный доступ к передовым технологиям начинает нести премию», — сказал Чопра.
Эта статья впервые появилась на Computerworld.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
