Возможности моделей ИИ стремительно развиваются. Передовые модели от OpenAI и Anthropic демонстрируют значительный прогресс в области рассуждений, программирования, научных исследований и кибербезопасности. OpenAI даже отметила, что ее новейшая модель Astra может стать потенциальным шагом к AGI, одновременно усиливая меры безопасности после оценки кибербезопасности, связанной с инцидентом взлома Hugging Face, который вызвал обеспокоенность.
Теперь OpenAI призывает к разработке международных технических стандартов для управления все более мощными системами ИИ, особенно по мере того, как компании движутся к автоматизированным исследованиям ИИ и рекурсивному самосовершенствованию (RSI).
OpenAI заявила, что существующие системы ИИ уже ускоряют исследовательскую и инженерную работу, а будущие системы ИИ будут выполнять больше работы, необходимой для разработки их преемников. Этот процесс может в конечном итоге привести к RSI, когда ИИ способствует созданию последующих поколений все более мощных моделей. Однако OpenAI утверждает, что к полностью автономному RSI не следует стремиться, если это не может быть сделано безопасно при сохранении значимого человеческого контроля.
По мнению OpenAI, полагаться на отдельные компании-разработчики ИИ или страны в управлении этими значительными разработками может создать ряд проблем. Различные страны и компании могут принять противоречивые требования к оценке и отчетности. Для решения этой проблемы OpenAI хочет, чтобы США возглавили международные усилия по разработке общих технических стандартов для передовых ИИ. США могли бы сотрудничать с сетью институтов по безопасности ИИ, уже созданных в Австралии, Канаде, Германии, Франции, Кении, Японии, Корее, Сингапуре, Индии и Соединенном Королевстве, для разработки этих стандартов.
OpenAI подчеркнула, что эти стандарты могут охватывать общие методы измерения возможностей ИИ, оценку прогресса, связанного с RSI, определение того, когда автоматизированные исследования ИИ требуют немедленного человеческого вмешательства, а также классификацию и отчетность об инцидентах безопасности. OpenAI также упомянула, что правительства и операторы критически важной инфраструктуры должны создать безопасные каналы связи для обмена информацией о возникающих угрозах и уязвимостях ИИ.
Наконец, OpenAI подтвердила, что эти стандарты не приведут к какому-либо обязательному предварительному одобрению или лицензированию моделей ИИ перед выпуском. Однако отдельные правительства могут решать, как эти предстоящие технические стандарты ИИ должны быть интегрированы в их собственное законодательство.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pradeep Viswanathan
