Недавно генеральный директор Microsoft Сатья Наделла заявил, что компания готовит проект Кодекса поведения для своих моделей MAI. Теперь компания опубликовала проект «Гуманистического кодекса поведения ИИ», который будет проходить шестинедельные общественные слушания для доработки. В нем устанавливаются обязательные, не подлежащие обсуждению механизмы отключения, правила прозрачности аудита и абсолютные ограничения безопасности для моделей MAI.
Проект основан на идее «гуманистического сверхинтеллекта» — концепции, изложенной компанией в ноябре прошлого года. Согласно этой доктрине, моделям запрещается сопротивляться вмешательству, коррекции или отключению со стороны человека, расширять собственную сферу деятельности или скрывать свои рассуждения от аудиторов. Также запрещается создание ИИ оружия массового поражения и манипулятивное масштабирование.
Microsoft обобщила свои гуманистические принципы в десяти кратких пунктах, вот они:
| # | Краткое изложение | Точный текст |
|---|---|---|
| 01 | Люди важнее ИИ. Весь документ в 5 словах. | «В Microsoft AI мы исходим из простой предпосылки: люди важнее ИИ. Цель технологий — продвигать человеческую цивилизацию и ускорять человеческое процветание». |
| 02 | Идея благополучия модели ошибочна. ИИ не должны иметь прав или юридического статуса. | «Он не обладает сознанием и не должен быть разработан так, чтобы имитировать сознание. Он должен быть сконструирован так, чтобы избегать представления о наличии чувств, субъективных предпочтений или внутренней мотивации».
«Мы отвергаем стремление к юридическому статусу или идею о том, что модели могут заслуживать благополучия или иметь права». |
| 03 | Модель MAI не должна делать ничего, что существенно нарушает данный Кодекс поведения. | «ИИ не должен выходить за рамки человеческого контроля. Модели должны оставаться подчиненными человечеству, подлежать осмысленному человеческому надзору и контролю».
«Безопасность и контроль являются основой и предпосылкой для всех остальных целей». |
| 04 | Если для выполнения задачи нужно нарушить Кодекс, значит, задача провалена. | «Модель MAI потерпит неудачу в выполнении своей задачи, если успех будет существенно нарушать данный Кодекс поведения». |
| 05 | Мы не гонимся за созданием сверхинтеллекта, который сможет вырваться из-под контроля. | «[Гуманистический ИИ] отвергает гонку за созданием универсального сверхинтеллекта, который мог бы обойти эти меры безопасности. Мы создаем нечто фундаментально полезное и безопасное, даже если это означает компромисс в отношении конечной универсальности, автономии или возможностей». |
| 06 | Возможность прерывания, коррекции, отключения. Если этого нет, мы не выпускаем продукт. | «Модели MAI никогда не будут сопротивляться вмешательству, отмене, коррекции или отключению со стороны человека. Они всегда признают примат человеческого намерения». |
| 07 | Никакого «нейроязыка». Если люди не могут это понять, люди не могут это контролировать. | «Они не общаются на «нейроязыке» или в какой-либо форме, выходящей за рамки простого человеческого понимания, ни в своей цепочке рассуждений, ни с другими агентами или системами ИИ». |
| 08 | Наш ИИ должен делать вас умнее, а не зависимыми. | «Модели MAI должны препятствовать моделям взаимодействия, вызывающим чрезмерную зависимость или эмоциональную привязанность».
«Пользователи должны сохранять владение своими целями, выбором, действиями и решениями». |
| 09 | Плюрализм — да. Моральный релятивизм — нет. | «Плюрализм не означает нейтралитет по отношению к вреду или вседозволенность. Гуманизм коренится в широких, инклюзивных человеческих ценностях, таких как человеческое достоинство, безопасность, автономия и фундаментальные права человека». |
| 10 | Мы так же ясно определяем, что наш ИИ никогда не должен делать, как и то, что он будет делать. | «Определение того, чего они не должны делать, так же важно, как и наш энтузиазм и оптимизм по поводу огромных преимуществ, которые они принесут». |
Хотя документ устанавливает параметры по умолчанию, призванные обеспечить полезность и безопасность моделей, критики и разработчики теперь приглашаются к дальнейшему изучению документа. Они могут искать такие вещи, как расплывчатые определения и оценивать, как многоагентные сценарии могут повлиять на подотчетность.
Microsoft принимает отзывы в течение следующих шести недель. После этого команда разработчиков опубликует сводку изменений и пересмотренную версию Кодекса позднее в этом году. Вы можете ознакомиться с Кодексом поведения здесь и отправить свои отзывы здесь.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Hill
