Компания Tenstorrent представила свою оптимизированную модель искусственного интеллекта, работающую на серверах Blackhole, которая обеспечивает молниеносную скорость генерации видео.
Генерация видео в мгновение ока: Tenstorrent достигает скорости обработки видео в реальном времени с новой моделью ИИ на Blackhole
Генерация видео с помощью ИИ требует значительного времени; по сути, чем быстрее ваше оборудование, тем быстрее вы сможете генерировать видео. Хотя этот процесс стал более эффективным, Tenstorrent выводит его на новый уровень.
Компания представила свою грядущую модель ИИ Wan2.2-14B, обученную на 14 миллиардах параметров на серверах с несколькими сотнями ускорителей Blackhole. И производительность поразительно высока.
В ходе живой демонстрации, проведенной для EETimes, новая модель ИИ смогла сгенерировать видео с разрешением 720p (81 кадр, 40 шагов) всего за пять секунд. Важно отметить, что само сгенерированное видео также длилось 5 секунд. Tenstorrent также заявляет, что им удалось достичь рекордного времени в 2,4 секунды для аналогичного 5-секундного видео, что в 10 раз быстрее, чем у конкурентов.
Tenstorrent использует оптимизированную версию модели ИИ Wan2.2-14B, созданной Prodia, и запускает ее на четырех серверах Galaxy, оснащенных 256 ускорителями Blackhole. Каждый ускоритель Blackhole имеет 16 ядер RISC-V и 32 ГБ памяти GDDR6, обеспечивая высокопроизводительную обработку ИИ. Это флагманский продукт в стеке ИИ от Tenstorrent.
Tenstorrent удается достичь этого рубежа благодаря своему унифицированному архитектурному подходу, который не зависит от проприетарных технологий, а использует открытую вычислительную платформу, где ядра, память и сетевые компоненты работают согласованно для запуска массивных моделей ИИ.
Это лишь предварительный показ, и ожидается, что Tenstorrent продемонстрирует еще больше результатов производительности на следующей неделе, поскольку компания готовится к запуску систем следующего поколения в масштабе кластера, так что следите за новостями.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
