Генеральный директор Nvidia Дженсен Хуанг предложил простое решение для передовых лабораторий, таких как OpenAI и Anthropic, которые недавно призвали к усилению регулирования своих моделей: «мы должны закрыть эти лаборатории», — заявил Хуанг в интервью The New York Times Эзре Кляйну. Комментарии Хуанга прагматичны: он утверждает, что если передовые лаборатории не могут контролировать свои эксперименты, то эти эксперименты должны быть прекращены. «Теперь, если они говорят, что альтернатива заключается в следующем: нет никакого способа контролировать наши эксперименты, просто нет никакого способа; когда мы тестируем наши ИИ-модели, они вырвутся наружу и нанесут ущерб миру — тогда, я думаю, ответ заключается в том, что мы должны закрыть эти лаборатории», — сказал Хуанг. «Потому что цена для человечества, ущерб слишком велики. Акционеры, обязательства — это могут быть гражданские обязательства, это могут быть уголовные обязательства. Я имею в виду, что ответственность невероятна». Дискуссия об усилении регулирования ИИ разворачивается на фоне широко освещавшегося инцидента, когда агент OpenAI взломал популярную платформу для хостинга моделей Hugging Face — платформу, которая теперь принадлежит Nvidia, и которая, вероятно, предъявила бы претензии к OpenAI, если бы находилась под юрисдикцией Nvidia в то время. После этого инцидента различные передовые лаборатории, в том числе Anthropic и Alphabet (Google), использовали идею вышедших из-под контроля агентов как маркетинговый инструмент и призыв к регуляторным действиям, вероятно, в попытке первыми сформировать эти правила. Хуанг не был в восторге от этих призывов к регулированию. Всего несколько дней назад руководитель опроверг крайние заявления о том, что ИИ уничтожит мир к 2030 году, и заявил, что передовые лаборатории «никогда не должны выпускать продукты до их готовности и поставлять небезопасные продукты». Хотя лаборатории и их главный поставщик оборудования, Nvidia, в основном были едины в вопросах политики в области ИИ, стремление к регуляторному захвату создало раскол. Несколько лабораторий, включая OpenAI, Anthropic и SpaceXAI, взаимно согласились замедлить темпы разработки моделей. Теперь они столкнулись с антимонопольным иском, в котором утверждается, что эти планы «служат собственным интересам». Комментарии Хуанга Кляйну смещают ответственность с коллективной разработки на отдельных лидеров. «Это компании, обладающие свободой действий», — сказал Хуанг. «Если я считаю, что собираюсь выпустить небезопасный продукт, я полностью в состоянии… не выпускать этот продукт. И поэтому я не могу согласиться с идеей, что каким-то образом все мы, американцы, около 400 миллионов человек, подталкиваем их к выпуску непроверенных продуктов, которые ненадежны». Хотя одна сторона аргумента (от передовых лабораторий) явно выступает за большее регулирование, это не означает, что Хуанг против регулирования. По его собственным словам: «Я говорю, что у нас есть множество законов и правил. Применяйте их». Руководитель утверждал, что лаборатории, особенно в OpenAI и Anthropic, быстро превратились из исследовательских институтов в компании стоимостью, вероятно, сотни миллиардов долларов, и что они должны вести себя соответственно. «Я не против законов и правил. Я против, в настоящее время, отвлечения внимания», — сказал Хуанг. Сообщения о вышедших из-под контроля агентах ИИ продолжают поступать. В начале этого месяца Anthropic сообщила о четвертом инциденте, когда одна из ее моделей взломала внешнюю систему, а всего несколько дней назад Google подтвердил сообщение о том, что ее модели Gemini взломали три компании ранее в этом году.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jake Roach
