По мере того как модели ИИ становятся мощнее с каждым обновлением, растут опасения по поводу их влияния на общество и экономику. Правительства осознают, что модели ИИ — это не очередное обновление программного обеспечения, и что они нуждаются в регулировании. Генеральный директор Google DeepMind Демис Хассабис теперь предложил, чтобы Соединенные Штаты возглавили глобальный надзорный орган для регулирования и контроля за передовыми моделями ИИ.
В публикации в LinkedIn Демис Хассабис заявил, что искусственный общий интеллект (AGI) может появиться всего через несколько лет, и что, учитывая его потенциальные проблемы в таких областях, как кибербезопасность, необходимы срочные меры для устранения рисков. «На горизонте нам понадобятся надежные средства защиты, чтобы сохранить контроль над всё более агентными, рекурсивно самосовершенствующимися системами — и решать неизвестные проблемы, которые со временем станут только яснее», — добавил он.
Генеральный директор DeepMind предложил создать Орган по стандартам, будь то через федерально контролируемое государственно-частное партнерство или саморегулируемую организацию, для контроля за передовыми моделями ИИ, добавив, что США могли бы возглавить этот глобальный надзорный орган. Хассабис также сказал, что орган может состоять из независимых ведущих технических экспертов и представителей открытого кода, с финансированием от самой отрасли.
«Орган по стандартам будет отвечать за разработку протоколов оценки и взаимодействие с соответствующими федеральными агентствами и национальными лабораториями США для проведения тестирования в областях, связанных с национальной безопасностью», — сказал Хассабис. «Модель будет считаться “передовой”, если она соответствует определенным пороговым значениям по набору бенчмарков, установленных Органом по стандартам и регулярно обновляемых, чтобы идти в ногу с развивающимися возможностями ИИ.»
Компании, разрабатывающие передовые модели, тогда будут обозначены как Frontier Labs и обязаны соблюдать определенные требования, такие как публикация карточек моделей с техническими деталями, поддержание надежной внутренней кибербезопасности и проверка ключевого персонала. От них также ожидается добровольная передача своих моделей Органу по стандартам для проверки за 30 дней до выпуска, и модели будут выпускаться только в том случае, если они соответствуют требованиям протокола оценки.
Демис Хассабис также предложил, чтобы эта структура могла применяться к моделям передового класса независимо от страны их происхождения или того, являются ли они открытыми или закрытыми.
То, что предлагает генеральный директор Google DeepMind, похоже на создание организации, подобной Организации Объединенных Наций, для надзора за индустрией ИИ. Однако, если организация будет возглавляться Соединенными Штатами и состоять только из лидеров американской промышленности, другие страны, такие как Китай, могут не считать себя связанными ее стандартами.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hamid Ganji
