ии процессоры архитектура кремний Frostbite Architect Labs tomshardware.com

Стартап Architect Labs из Пало-Альто сообщил в исследовательском блоге, что его ИИ-системы обнаружили, спроектировали и верифицировали Frostbite — универсальный процессор с новым набором инструкций, «созданный с нуля». На 25 рабочих нагрузках кластер Frostbite из четырех плиток обеспечил в 4,59 раза большую производительность на ватт по сравнению с аналогичным по размеру «проверенным кремнием» двухуровневым конвейерным процессором с последовательным выполнением команд. Эти цифры основаны на симуляции 7-нм дизайна, который еще не был реализован в кремнии, и компания заявляет, что не может назвать сравниваемый процессор по юридическим причинам. Обычные процессоры имеют аппаратное обеспечение, которое «заново открывает во время выполнения, какие инструкции на самом деле зависят друг от друга». Многоядерные конструкции также требуют глубоких иерархий кэш-памяти и протоколов когерентности, которые поддерживают согласованность представления общего пространства памяти каждым ядром, но плохо масштабируются и требуют больших затрат на площадь и энергию. Альтернатива Architect Labs — это то, что компания называет «бесплатным мультитрейдингом», когда сама программа раскрывает параллельную работу без потоков, блокировок или аппаратного обеспечения вне очереди, необходимого для этого обнаружения. Программы Frostbite компилируются в сетевые взаимодействия — вычислительную модель 1990 года, в которой программа представляет собой граф узлов, а вычисления происходят путем переписывания пар связанных узлов, и чип спроектирован вокруг этой отличительной парадигмы. Пары переписываемых узлов никогда не пересекаются, поэтому они могут выполняться в любом порядке или одновременно, давая одинаковый результат. Каждое значение также используется ровно один раз, поэтому данные могут храниться в небольших локальных памятьях вместо больших общих кэшей. Команда приводит пример различия: шахматная доска 5×5 с пятью ферзями, расположенными так, чтобы они не могли атаковать друг друга. Типичная программа ищет решения по одной доске за раз. В виде сетевого взаимодействия тот же поиск разбивается на 3183 мелкие операции, а самая длинная цепочка, которую необходимо выполнить последовательно, составляет всего 262 шага, поэтому в среднем около 12 операций готовы к выполнению одновременно на каждом шаге. Ничто в программе не было переписано для достижения этого, поскольку параллельная работа была уже присуща ей. Каждая из плиток чипа, небольших идентичных вычислительных единиц, связанных сетью на кристалле, имеет свою собственную небольшую локальную память. Четыре плитки плюс четыре узла L3 образуют кластер, который сравнивается с обычным ядром по показателям производительности, но полная компоновка включает 16 плиток. Дизайн достиг 800 МГц на раннем этапе синтеза, но в окончательной компоновке составил 500 МГц. Кластер также в среднем показал в 8,77 раза большую производительность на площадь по сравнению с сравниваемым ядром, а таблица ниже показывает, как его производительность на ватт варьируется в зависимости от рабочей нагрузки. Возможно, вызовет некоторое удивление тот факт, что ИИ, создавший Frostbite, начинал с того, что компания называет «нулевыми архитектурными априорными знаниями», хотя команда сначала выбрала рабочие нагрузки, на которых он должен был хорошо работать, и такой «чистый лист» может иметь преимущества в избежании предвзятости. Вместо этого агенты читали статьи и бенчмарки, создавали модели на Python, а затем выбирали одну концепцию для фокусировки. Исходный PDF-документ объемом 141 страница, содержавший модель программирования, среду выполнения и блоки высокого уровня, был удален после генерации первого дизайна на уровне регистровых передач (RTL), поскольку «многие числа и оценки сильно отличались от физически возможных». Этот PDF был лишь отправной точкой. Как только агенты выбрали архитектуру, они отказались от английского языка — поскольку он не может передать все детали правильно или уловить каждую ошибку, по словам команды — и написали спецификацию на собственном языке компании под названием ASL. ASL транслируется в Lean, проверщик доказательств, поэтому его можно проверять машинным способом, что, по утверждению компании, предотвращает большой класс ошибок и снижает вероятность того, что агенты будут манипулировать своими целями. На основе этого агенты разработали Arcmodel, программную модель всего чипа, написанную на ASL, еще до существования какого-либо схемотехнического дизайна. Симуляция RTL занимает много времени, поэтому агенты вместо этого тестировали идеи на модели, которая работала примерно в 200 раз быстрее. Сначала оценки энергопотребления модели отклонялись почти на 250%, но автоматический цикл корректировал ее до тех пор, пока она не совпала с схемотехническим дизайном в пределах 5%. Оттуда рои агентов параллельно предлагали изменения, и каждое из них проверялось по спецификации, тестировалось на быстрой модели, встраивалось в схемотехнический дизайн и измерялось по энергопотреблению перед сохранением или отбрасыванием. Это привело к 58 протестированным идеям, из которых 37 были сохранены. Отдельно возникло поведение, которое «никогда не было указано человеком», в том, что известно как перераспределение работы (work stealing): плитка, которой нечего делать, может взять на себя работу у соседа или, в отсутствие работы, перейти в режим ожидания для экономии энергии. Это не первый дизайн Architect Labs, поскольку в августе компания представила Redwood, ускоритель ИИ-инференса для роботов и дронов. В этом случае, по словам компании, ее ИИ сгенерировал RTL, верификацию, прошивку, драйверы и ядра менее чем за две недели по спецификации, написанной двумя инженерами-архитекторами. Redwood по-прежнему работает только на FPGA и не был реализован в кремнии, хотя компания заявляет, что работает над его производством на TSMC. Tendrils Compute, возможный конкурент из Кембриджа, Великобритания, в начале этого месяца привлек финансирование для процессора, который, по его словам, будет иметь «тысячи ядер, работающих параллельно». Компания также разрабатывает Vine, тот же язык, на котором написаны программы Frostbite. Architect Labs заявляет, что в ближайшее время появятся новые бенчмарки, но это лишь часть плана. Компания также хочет создать «программную песочницу на базе FPGA, чтобы любой мог запустить программу на Frostbite», а также «предварительную операционную систему». В конечном итоге планируется выпустить RTL и набор инструкций Frostbite. Тем временем компания планирует охватить больше рабочих нагрузок и сравнить «более широкий набор ЦП», включая большие конфигурации сетки Frostbite с многоядерными версиями сравниваемого ядра с большими кэшами. Также планируется тестирование против «более крупных, более широких ЦП с внеочередным выполнением команд», причем эти сравнения ожидаются в ближайшие месяцы на популярных наборах тестов ЦП, таких как SPEC и PARSEC.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.