Но на конференции Ai4 в Лас-Вегасе на прошлой неделе три самых уважаемых в мире исследователя ИИ — лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и сооснователь World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Ын — высказались по этому вопросу. И хотя они разошлись в конкретных тактиках, все трое привели убедительные аргументы в пользу сохранения открытости ИИ.
Для трех выступающих основная проблема заключалась в том, чтобы позволить горстке крупных компаний в сфере ИИ контролировать темпы прогресса. Когда несколько компаний контролируют доступ к технологии, как Apple и Google делают с мобильными операционными системами, инновации могут замедляться, а компании, контролирующие платформы, могут влиять на то, что на них создается.
Эндрю Ын сказал, что опасается аналогичной динамики в ИИ. «Я не хочу, чтобы были привратники, — сказал Ын. — Это ограничивает возможности доступа к ИИ для всех нас».
У компаний есть стимул защищать свои конкурентные преимущества, в том числе влияя на правила, регулирующие отрасль. Это может создать динамику, при которой только крупнейшие, наиболее капитализированные фирмы, обладающие ресурсами для создания самых передовых систем ИИ, смогут доминировать.
Решение Ына состояло в том, чтобы поддерживать множество поставщиков, чтобы модели и компании конкурировали, а не позволять горстке игроков доминировать в этой области. «Если бы я попытался дать один рецепт, я бы выступил за открытость, — сказал Ын, — потому что ИИ — это удивительная технология, и я хочу, чтобы она была в руках каждого».
Но не все согласились с тем, что модели с открытыми весами помогут сохранить этот статус-кво. В частности, Хинтон провел различие между программным обеспечением с открытым исходным кодом, которое делает исходный код доступным для проверки и модификации, и моделями с открытыми весами, которые публикуют параметры обученной модели ИИ.
«Открытый исходный код — это здорово. Вы показываете людям код, и множество людей смотрят на строки кода и говорят: “О, здесь ошибка”. Открытые веса означают, что вы обучаете большую модель, а затем передаете людям веса. Это совсем другое, — сказал Хинтон. — Я был против открытых весов, потому что это позволяет людям легко взять эти большие фундаментальные модели, которые очень дорого обучать, и за меньшие деньги обучить их вредным действиям, таким как кибератаки».
Но независимо от своих опасений, Хинтон признал, что модели с открытыми весами уже стали постоянной частью ИИ. «Я думаю, эта битва проиграна. Теперь у нас есть модели с открытыми весами, так что барьер для многих людей, желающих получить эти большие модели, которым была стоимость обучения фундаментальных моделей, этот барьер исчез. Слишком поздно».
Однако признание реальности не означало игнорирование рисков. Позиция Хинтона была ясна: ИИ продолжит развиваться, и он считал, что это в значительной степени хорошо. Он сказал, что это повысит производительность и улучшит образование и здравоохранение. «Беспокоиться о возможных негативных последствиях ИИ и о том, что могут сделать разумные существа, когда они умнее нас. Я не думаю, что это несправедливо. Я считаю несправедливым называть любого, кто так думает, паникером», — добавил Хинтон.
Ын придерживался другого мнения. Вопрос, утверждал он, заключался не в том, рискованны ли открытые модели, а в том, кто контролирует доступ и кто выиграет на рынке. Тот, кто построит более дешевую модель, получит преимущество. Если модели с открытыми весами из Китая получат широкое распространение в Азии, Африке и/или развивающихся странах, предупредил он, они могут повлиять на то, как миллиарды людей будут воспринимать идеи демократии, свободы и прав человека.
«Одна вещь, которую я надеюсь, — это стимулировать конкурентоспособность Америки и ИИ с открытым исходным кодом. Оказывается, ИИ — это огромный источник мягкой силы. Вы видите, как китайская модель добилась огромных успехов в Африке, например», — сказал Ын. «Но моя тревога в том, что из-за лоббирования в США и запугивания, создание открытого ИИ в Америке с трудом конкурирует с моделями с открытыми весами из Китая, и я опасаюсь, что если Китай найдет принципиально более эффективный по затратам способ создания ИИ, то более дешевые вещи будут иметь фундаментальное преимущество в бизнес-внедрении».
Ли возразила на такую постановку. «Очень опасно делать эту дихотомию между полной открытостью и полной закрытостью», — сказала она. «В сложных программных системах, а также в научных системах все гораздо более детализировано».
Ли привела в пример ядерную физику: научные статьи публикуются открыто, но уран регулируется, а лабораторная работа находится где-то посередине. Урок, объяснила она, заключается в том, что открытость не обязательно должна быть выбором «все или ничего». Разные слои экосистемы могут работать с разным уровнем открытости.
Она также отметила сотрудничество между государственными и частными учреждениями, например, проект «Геном человека». Полученные знания стали платформой, на которой другие могли строить, сказала она, позволяя фармацевтическим компаниям получать прибыль, ученым — продвигать свою работу, а обществу — извлекать выгоду.
«Поэтому я считаю, что мы должны использовать [ИИ] как такую инфраструктуру, — сказала Ли. — Нам нужны некоторые уровни открытости — как в научных открытиях, в образовании, в глобальном партнерстве, так и в прибыльных бизнес-моделях для предпринимателей. Но мы также будем принимать системы с закрытым исходным кодом. Эти дебаты, особенно на таком общем уровне, как «мы можем терпеть только одно», — это ложные дебаты. Нам нужно достичь уровня нюансов».
Но все согласились, что определенный уровень регулирования будет необходим, чтобы удерживать ИИ на правильном пути. «Что мы хотим сделать, так это развивать ИИ в направлении, которое помогает людям, и регулирование поможет нам в этом», — сказал Хинтон. «Нельзя оставлять решение того, как следует развивать ИИ, таким людям, как Илон Маск и Марк Цукерберг».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Kate Park
