Нынешние процедуры безопасности при обучении ИИ-моделей недостаточны, предупредили правительства и сообщество ИИ сотни исследователей в области искусственного интеллекта. Они призывают к ужесточению правил и созданию нового международного органа, который будет контролировать передовые практики разработки ИИ.
В открытом письме специалисты по ИИ — 487 на момент публикации, включая многих старших научных сотрудников — призвали к увеличению исследований в области безопасности ИИ и большему акценту на технологиях сдерживания.
«Для обеспечения высоконадежного сдерживания кибернетически способных ИИ-моделей должны использоваться надежные механизмы изоляции, включая воздушный зазор (отключение от интернета)», — заявляют подписанты, среди которых такие светила, как Джеффри Хинтон и Йошуа Бенжио.
Эксперты заявили, что новый международный орган, который будет создан по согласованию с правительствами и широким кругом специалистов по ИИ и безопасности, сможет установить новые стандарты безопасности, а также служить организацией, куда можно будет сообщать о сбоях сдерживания, улучшая прозрачность для обучения и подотчетности.
Требования ученых выходят за рамки некоторых недавних призывов к усилению регулирования ИИ. Ранее на этой неделе президент Microsoft Брэд Смит заявил, что ИИ регулируется меньше, чем стиральные машины или молоко, хотя и не сделал конкретных предложений по исправлению ситуации. А парламент Великобритании изучает способы повышения безопасности ИИ, хотя любые шаги будут затруднены разногласиями между ИИ-компаниями.
Хинтон и Бенжио не новички в подобных инициативах, возглавляемых учеными. В октябре прошлого года они подписали открытое письмо с предупреждением об опасностях разработки сверхразумного ИИ. Письмо, похоже, не повлияло на стремительное развитие ИИ; еще предстоит увидеть, прислушаются ли игроки ИИ в советах директоров к этому предупреждению.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Maxwell Cooter
