Это ключевой подтекст попытки Илона Маска закрыть коммерческое подразделение OpenAI, занимающееся разработкой ИИ. Его адвокаты утверждают, что организация создавалась как благотворительный фонд, сосредоточенный на безопасности ИИ, но свернула с пути в погоне за прибылью. В качестве доказательства они приводят старые электронные письма и заявления основателей организации о необходимости создания общественно значимого противовеса Google DeepMind.
Сегодня они вызвали единственного эксперта-свидетеля, который мог бы говорить непосредственно о технологии ИИ: Стюарта Рассела, профессора информатики Калифорнийского университета в Беркли, который десятилетиями занимается изучением ИИ. Его задачей было дать общую информацию об ИИ и доказать, что эта технология достаточно опасна, чтобы вызывать беспокойство.
В марте 2023 года Рассел подписал открытое письмо с призывом приостановить исследования в области ИИ на шесть месяцев. В знак противоречивости ситуации Маск также подписал это письмо, хотя в то же время запускал xAI — собственную коммерческую лабораторию по разработке ИИ.
Рассел сообщил присяжным и судье Ивонн Гонсалес Роджерс о различных рисках, связанных с развитием ИИ, начиная от угроз кибербезопасности и заканчивая проблемами несоответствия целей и природой «победитель получает всё» при разработке общего искусственного интеллекта (AGI). В конечном счете, по его словам, существует напряженность между стремлением к AGI и безопасностью.
Более широкие опасения Рассела по поводу экзистенциальных угроз неконтролируемого ИИ не были озвучены в открытом судебном заседании после того, как возражения адвокатов OpenAI привели к тому, что судья ограничила показания Рассела. Однако Рассел давно критикует гонку вооружений, созданную передовыми лабораториями по всему миру, соревнующимися за первенство в достижении AGI, и призывал правительства строже регулировать эту сферу.
Адвокаты OpenAI потратили перекрестный допрос на то, чтобы доказать, что Рассел не оценивал напрямую корпоративную структуру организации или ее конкретные политики безопасности.
Но этот репортер (как и судья с присяжными) будет оценивать, какую ценность придать взаимосвязи между корпоративной жадностью и проблемами безопасности ИИ. Практически все основатели OpenAI настойчиво предупреждали о рисках ИИ, одновременно подчеркивая преимущества, пытаясь как можно быстрее создать ИИ — и разрабатывая планы по созданию коммерческих предприятий, ориентированных на ИИ, которые они бы контролировали.
Со стороны очевидна одна проблема: растущее осознание внутри OpenAI после ее основания, что для успеха организации просто требовались большие вычислительные мощности. Эти деньги могли прийти только от коммерческих инвесторов. Страх команды основателей перед AGI в руках одной организации подтолкнул их к поиску капитала, который в итоге расколол команду, создав ту гонку вооружений, которую мы знаем сегодня — и привел нас к этому иску.
Та же динамика уже разворачивается на национальном уровне: инициатива сенатора Берни Сандерса по принятию закона, вводящего мораторий на строительство дата-центров, перекликается с опасениями по поводу ИИ, высказанными Илоном Маском, Сэмом Альтманом, Джеффри Хинтоном и другими. Ходан Омар, работающая в отраслевой организации Center for Data Innovation, возразила против того, что Сандерс цитирует их страхи без их надежд, заявив TechCrunch, что «неясно, почему общественность должна игнорировать все, что говорят технологические миллиардеры, кроме тех случаев, когда их слова можно использовать для заполнения пробелов в шатком аргументе».
Теперь обе стороны дела просят суд сделать именно это: принять всерьез часть аргументов Альтмана и Маска, но отбросить те части, которые менее полезны для их юридической позиции.
Исправление: Статья была обновлена для исправления имени Стюарта Рассела, профессора информатики Калифорнийского университета в Беркли.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
