Модели искусственного интеллекта Gemini от Google за последний год шагнули далеко вперед, но использовать Gemini можно только на условиях самой Google. Модели с открытым весом Gemma от компании предоставляли больше свободы, однако Gemma 3, выпущенная более года назад, несколько устарела. Начиная с сегодняшнего дня разработчики могут начать работу с Gemma 4, которая поставляется в четырех размерах, оптимизированных для локального использования. Google также признала недовольство разработчиков лицензированием ИИ, поэтому отказывается от собственной лицензии Gemma.
Как и предыдущие версии своих моделей с открытым весом, Google разработала Gemma 4 с возможностью использования на локальных машинах. Это, конечно, может означать многое. Два больших варианта Gemma — 26B Mixture of Experts и 31B Dense — спроектированы для работы без квантования в формате bfloat16 на одном графическом процессоре Nvidia H100 с объемом памяти 80 ГБ. Конечно, это ускоритель ИИ стоимостью 20 000 долларов, но это все еще локальное оборудование. При квантовании для работы с более низкой точностью эти большие модели поместятся на потребительских GPU.
Google также заявляет, что сосредоточилась на снижении задержки, чтобы по-настоящему использовать преимущества локальной обработки Gemma. Модель 26B Mixture of Experts активирует только 3,8 миллиарда из своих 26 миллиардов параметров в режиме инференса, что обеспечивает гораздо более высокую скорость генерации токенов в секунду по сравнению с моделями аналогичного размера. В то же время 31B Dense больше ориентирована на качество, чем на скорость, но Google ожидает, что разработчики будут дообучать ее для конкретных задач.
Две другие модели Gemma 4 — Effective 2B (E2B) и Effective 4B (E4B) — нацелены на мобильные устройства. Эти варианты были разработаны для поддержания низкого потребления памяти во время инференса, работая с эффективным числом параметров в 2 или 4 миллиарда. Google сообщает, что команда Pixel тесно сотрудничала с Qualcomm и MediaTek для оптимизации этих моделей для таких устройств, как смартфоны, Raspberry Pi и Jetson Nano. Они не только потребляют меньше памяти и энергии, чем Gemma 3, но и Google заявляет о «почти нулевой задержке» в этот раз.
Мощнее, открытее
По сообщениям, все новые модели Gemma 4 оставят Gemma 3 далеко позади — Google утверждает, что это самые мощные модели, которые можно запустить на вашем локальном оборудовании. Google заявляет, что Gemma 31B дебютирует на третьем месте в списке Arena лучших открытых моделей ИИ, уступая GLM-5 и Kimi 2.5. Однако даже самый крупный вариант Gemma 4 составляет лишь малую часть размера этих моделей, что теоретически делает ее значительно дешевле в эксплуатации.
,
Основанная на той же базовой технологии, что и закрытые модели Google Gemini 3, Gemma 4 предлагает улучшенные возможности рассуждения, математики и следования инструкциям. За последний год ИИ также сместился в сторону управления агентными рабочими процессами, и Gemma 4 готова к этим изменениям благодаря поддержке нативного вызова функций, структурированного вывода JSON и нативных инструкций для общих инструментов и API.
Генерация кода также становится основным применением генеративного ИИ, и Google заявляет, что Gemma 4 оптимизирована и для этого. Вы можете генерировать компетентный код с помощью любого количества систем ИИ, но сильные игроки, такие как Gemini Pro и Claude Code, являются облачными сервисами.
Google заявляет, что Gemma 4 может предоставить вам код сопоставимо высокого качества в автономном режиме, при условии наличия оборудования для запуска более крупных вариантов. Аналогично, Google утверждает, что Gemma 4 лучше справляется с обработкой визуального ввода, делая такие задачи, как оптическое распознавание символов (OCR) и понимание диаграмм, более надежными в локальных системах. Эффективные модели E2B и E4B также имеют нативную поддержку распознавания речи — семейство Gemma 3 также обладало этим, но Google, похоже, подразумевает, что Gemma 4 справляется с этим лучше.
Все это работает более чем на 140 языках, и на каком бы языке вы ни работали, Gemma 4 может обработать огромное количество слов. Размер контекстного окна для периферийных моделей теперь составляет 128 тысяч токенов, а для моделей 26B и 31B — 256 тысяч. Это хорошо для локальной модели, но облачные модели Gemini гораздо щедрее, предлагая 1 миллион токенов контекста.
Все заявленные улучшения производительности хороши, но, возможно, самым важным изменением для Gemma стал пересмотр лицензирования. Предыдущие версии открытых моделей Google поставлялись с пользовательской лицензией Google, которую многие разработчики считали слишком ограничительной. Лицензия Gemma 3 содержала строгую политику запрещенного использования, которую Google могла в одностороннем порядке обновлять, и она требовала от разработчиков обеспечивать соблюдение правил Google во всех проектах на базе Gemma. Ее даже можно было трактовать как передачу лицензии другим моделям ИИ, созданным с использованием синтетических данных, сгенерированных Gemma. Это вызывало у многих разработчиков опасения по поводу создания продуктов на основе открытых моделей Google.
,
Лицензия Apache 2.0, по сравнению с этим, гораздо более разрешительная, без обременительных условий использования или коммерческих ограничений. Разработчики знакомы с Apache и чувствуют себя с ней комфортно, и Google не сможет просто решить, что лицензия будет работать по-другому в будущем. Google считает, что предоставление разработчикам большего контроля над их данными и планами развертывания таким образом побудит их использовать Gemma для большего числа проектов и расширит то, что компания настаивает называть «Gemmaverse» («Вселенная Gemma»).
Скоро выйдет Nano
Выпуск E2B и E4B также показывает, куда движется Google в своих усилиях по внедрению ИИ в смартфоны. Google Pixel и несколько других телефонов используют локальные модели ИИ, известные как Gemini Nano. Именно так эти телефоны на Android могут обнаруживать мошенничество по телефону и в текстовых сообщениях, обобщать заметки или создавать сводки телефонных разговоров без отправки ваших данных в облако. Представитель Google отмечает, что Gemini Nano всегда основывалась на моделях Gemma, но это особенно верно в отношении обновления следующего поколения до Gemini Nano 4.
Это первый случай, когда Google подтвердила, что выйдет обновленная версия ее минимальной модели ИИ для смартфонов. Текущая Gemini Nano 3, работающая на телефонах Pixel, основана на Gemma 3n, но Google подтвердила Ars Technica, что Nano 4 следующего поколения будет иметь варианты 2B и 4B на основе Gemma 4 E2B и E4B.
Компания приглашает разработчиков начать прототипирование агентных рабочих процессов в последнем предварительном выпуске для разработчиков AI Core с использованием Gemma E2B и E4B. Системы, разработанные с использованием этих новых моделей, будут обратно совместимы с Gemini Nano 4, когда она выйдет. Возможно, мы узнаем больше об этом на конференции I/O через несколько недель.
Вы можете немедленно ознакомиться с новыми моделями Gemma в AI Studio (31B и 26B MoE) и AI Edge Gallery (E4B и E2B). Веса моделей также можно полностью загрузить с Hugging Face, Kaggle и Ollama. Хотя модели оптимизированы для локальной обработки, Google также с радостью запустит их для вас в Google Cloud за плату.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
