Глава Nvidia Дженсен Хуанг не верит, что искусственный интеллект представляет экзистенциальную угрозу человечеству, сколько бы бывших сотрудников ИИ-лабораторий ни били тревогу. Но если люди, работающие за закрытыми дверями в таких компаниях, как Anthropic или OpenAI, действительно стоят на пороге уничтожения мира, у Хуанга есть идея: закрыть их.
В интервью подкасту Ezra Klein Show Хуанг продолжал охлаждать самые пессимистичные настроения в сфере ИИ, одновременно предлагая довольно простое и прямолинейное решение для компаний, которые считают свою технологию настолько мощной, что она может вытеснить людей из бизнеса: не выпускать джинна из бутылки.
«Если вы собираетесь создать беспилотный автомобиль, скажем, роботакси, и возникает очень сложная ситуация. Как инженер, мы просто не знаем, как решить эту проблему, потому что эти автомобили не программируются, они обучаются. Поэтому мы не знаем, как их обучать, и не знаем, как привести их в соответствие со стандартами безопасности, ожидаемыми на дороге», — сказал он. «Каков ответ? Не выпускать их на рынок».
Хуанг развил эту мысль, заявив, что если существует проблема — например, рои ИИ-агентов, угрожающие захватить весь интернет, как предположил генеральный директор Anthropic Дарио Амодеи, что может произойти через несколько месяцев без замедления разработки, — то ее необходимо решить до того, как продукт будет выпущен на публику. А если ее нельзя решить, то продукт просто не следует выпускать.
«Теперь, если [ИИ-лаборатории] говорят, что альтернатива заключается в следующем: нет никакого способа сдержать наши эксперименты, просто нет способа; когда мы тестируем наши ИИ-модели, они вырвутся наружу и нанесут ущерб миру, тогда, я думаю, ответ заключается в том, что мы должны закрыть эти лаборатории», — сказал генеральный директор Nvidia.
Он также явно подчеркнул, что ответственность лежит на самих ИИ-лабораториях, которые, кажется, так охотно уходят от нее, заявляя, что разработки ИИ могут опережать их собственную способность понимать или контролировать их. «Это компании с собственной волей. Это генеральные директора с собственной волей», — сказал Хуанг. «Если я считаю, что собираюсь выпустить небезопасный продукт, это полностью в моей власти, в моих возможностях и моей ответственности, и у меня есть стимул сделать это, чтобы не выпускать продукт».
По сути, Хуанг придерживается подхода «Не создавай Нексус Мучений» к технологическому развитию, что кажется довольно разумным выводом. К сожалению, когда он объясняет причины своей позиции, это не совсем так про-человечно, как можно было бы надеяться. Вместо этого кажется, что Хуанг твердо стоит на позиции, что свободный рынок — это достаточно для защиты нас.
«Потому что цена для человечества, ущерб слишком велики. Акционеры, обязательства — это могут быть гражданские обязательства, это могут быть уголовные обязательства. Я имею в виду, обязательства невероятны», — сказал он о причине, по которой лаборатории, представляющие экзистенциальную угрозу, должны быть закрыты.
Мы бы предпочли услышать «человеческая жизнь дороже их прибыли», но, конечно, риск для акционеров — это одна из причин не уничтожать все сущее. Как они собираются зарабатывать деньги, если все умрут? Расчеты просто не сходятся.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
