Бывший глава ИИ-направления Databricks уверен, что сможет сократить энергопотребление нейросетей в 1000 раз

Unconventional Ai ии осцилляторы энергоэффективность инференс techcrunch.com

Un0 — это инструмент для генерации изображений, который впервые показывает, как технология компании может воспроизводить возможности традиционных систем ИИ.

Компания Unconventional AI, возглавляемая Навином Рао, ранее руководившим направлением ИИ в Databricks, обещает сделать обработку инференса (вывода) значительно более энергоэффективной. Секретное оружие: новый тип архитектуры компьютера на основе осцилляторов.

В четверг компания выпустила свою первую модель ИИ — Un0 — инструмент для генерации изображений, который впервые демонстрирует, как технология компании может воспроизводить возможности традиционных систем ИИ. В сопроводительной научной статье команда исследователей подробно описывает, как им удалось создать полностью функциональную модель генерации изображений с использованием программной симуляции новой архитектуры — модель, которая работает не хуже передовых диффузионных моделей.

«Это „hello world“ нового типа компьютера», — заявил Рао изданию TechCrunch. «В течение следующего года вы начнете видеть довольно интересные новости по этому поводу».

Результаты работы новой модели Un-0 схожи с результатами моделей генерации изображений, таких как Stable Diffusion или GPT Image 1 от OpenAI. Впечатляет то, как достигается эта производительность. Модель построена на архитектуре на основе осцилляторов, которая кардинально отличается от чипов, используемых в традиционных вычислениях и LLM. Преимущества вычислений на основе осцилляторов сложны, но Рао полагает, что в конечном итоге это позволит снизить энергопотребление в 1000 раз.

Большая часть инфраструктуры для этого еще строится. Текущая версия Un-0 работает на программной симуляции осцилляторных чипов Unconventional, но компания планирует в скором времени выпустить схемы реального чипа. Далее план состоит в том, чтобы с нуля создать весь стек инференса, где Unconventional AI в конечном итоге будет предоставлять вычислительные мощности, как и любой другой провайдер.

«Мы построим новый тип системы, состоящей из наших чипов», — говорит Рао. «Мы будем запускать на них модели ИИ, и у нас будет сетевой кабель, куда будут поступать промпты и откуда будет выходить инференс, но это будет достигаться при 1/1000 потребляемой мощности».

Это поразительно амбициозная цель, особенно для компании, в которой работает менее 50 человек. Но учитывая масштабы развития ИИ и ожидаемую стоимость удовлетворения растущего спроса на инференс, это может стать одним из немногих усилий, способных решить проблему в таких масштабах. По мнению Рао, доступный запас энергии станет одним из жестких ограничений для ИИ в ближайшие годы — и Unconventional является одним из немногих проектов, способных решить эту проблему.

«Масштабирование ИИ затруднено из-за энергии. Это станет фундаментальным пределом в ближайшие несколько лет. Вы просто не сможете его преодолеть. В конечном счете, это будет проблема, ограниченная энергией», — заявляет он.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: