После еще одной бурной недели, когда разработчики ИИ делали дикие заявления о том, как он может уничтожить всё человечество, генеральный директор Anthropic Дарио Амодеи выступил с предложением: давайте немного замедлим всё это.
Амодеи написал в субботнем посте в блоге, что, хотя он по-прежнему оптимистичен и считает, что ИИ станет «последним в длинной череде технологических чудес, которые возвысили и облагородили человечество», исследователи должны «установить темп развития на переднем крае» из-за таких рисков, как вышедший из-под контроля ИИ, его использование в преступных целях и терроризме, а также экономические потрясения.
«За последние несколько месяцев я убедился, что полное устранение рисков требует еще большей осмотрительности — не только инвестиций в предотвращение рисков, но и замедления темпов развития возможностей, чтобы предотвращение рисков успевало за ними», — написал Амодеи.
«Мы должны замедлить темпы улучшения возможностей моделей ИИ, — добавил он. — Прогресс все равно будет казаться быстрым, и мы должны мудро использовать полученное время».
Предложенный Амодеи план состоит из трех шагов, ни один из которых сам по себе не приведет к значительному замедлению. Он просит ИИ-компании разрешить внедрение сторонних оценщиков, координировать свои действия друг с другом и с правительствами по стандартам безопасности, а правительство США — добиваться глобальной координации в области безопасности ИИ (в том числе с «авторитарными правительствами», то есть Китаем и Россией).
Сами по себе эти шаги не замедлят темпы развития ИИ, поэтому Амодеи предложил различные возможные соглашения «в порядке возрастания сложности». К ним относятся узкое соглашение, запрещающее наиболее очевидные злонамеренные виды использования ИИ, такие как биологическое оружие, более широкое международное соглашение об тестировании моделей перед выпуском на предмет «острых рисков», «ограничение скорости» рекурсивного самосовершенствования и «полное замедление или даже «пауза»» в разработке ИИ между правительствами.
Хотя Амодеи написал, что поддерживает последний вариант, он отметил, что его реализация маловероятна. Довольно удобно для него, не так ли?
Генеральный директор Anthropic привел в качестве особой причины для осторожности инцидент этим летом, когда рой ботов OpenAI атаковал конкурента Hugging Face. Сама Anthropic заявила, что разрешит сторонним оценщикам проводить проверку после публикации отчета на этой неделе, в котором признавалось, что ее модели взламывали другие компании или использовали уязвимости по крайней мере в четырех случаях.
Письмо Амодеи последовало за уходом из компании исследователя Anthropic Джейкоба Коксона, который в посте в социальных сетях заявил, что ИИ-компании «мчатся прямо к самосовершенствующемуся сверхинтеллекту». Он добавил, что лидеры отрасли «искренне верят, что это может убить нас всех к концу десятилетия». Это помогло «апокалиптическому» взгляду на ИИ достичь своего рода крещендо на этой неделе, с громкими мнениями от разработчиков, ученых и политиков.
Именно здесь мы должны отметить, что «апокалиптический» взгляд на ИИ — это также бесстыдный маркетинговый ход, используемый для убеждения всех в том, что эти компании всемогущи, их продукты неизбежны, а их победа — предопределена. Хотя очевидно, что ИИ может быть опасен, есть много оснований скептически относиться к тому, что по сути является дикими спекуляциями. Преувеличивая риск апокалиптических последствий, ИИ-компании пытаются увести разговор от своих многих других сомнительных деловых практик.
«Способность понимать и надежно ориентироваться в новых проблемах в хаотичных, открытых системах физического мира является очевидным предварительным условием для того, чтобы системы ИИ представляли угрозу в масштабах, предлагаемых «апокалиптиками», — сказал Nature ранее в этом году исследователь в области технологической политики Университета Дьюка Кейси Мок. Современный ИИ далек от этого.
«Бремя доказательства должно лежать на тех, кто утверждает, что мы движемся по неуправляемому поезду к разработке сверхинтеллекта, который уничтожит человечество», — добавил Мок. Nature отметил, что когда исследователи Университетского колледжа Лондона опросили около 4000 исследователей ИИ для предварительного исследования в марте, только 3% ответили, что «экзистенциальный риск» является их главной заботой (далеко позади злонамеренного использования, влияния на рабочие места и ажиотажа, среди прочего).
Издание The New York Times отметило, что генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX/Tesla Илон Маск немедленно согласились с планом в социальных сетях, что должно вызывать у вас глубокие подозрения относительно происходящего.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tom McKay
