Адаптивное аппаратное обеспечение сегодня развивается быстрыми темпами, сложность современных ускорителей всё время растёт. Неудивительно, что растут и требования к памяти, сопутствующей FPGA, DPU и сетевым процессорам. Компания Xilix, один из ведущих разработчиков программируемой логики, дополнила свою универсальную адаптивную платформу Versal сверхбыстрой памятью HBM2e.

Сама платформа Versal появилась достаточно давно — в начале 2020 года Xilinx анонсировала уже третье поколение этих чипов. Напомним, к Versal не подходят классические определения FPGA или SoC — чип содержит очень разные по структуре и назначению наборы элементов: ядра общего назначения ARM Cortex-A, ядра реального времени ARM Cortex-R, движки DSP, криптографические движки, массив конфигурируемой логики, а также вспомогательные контроллеры. Разработчики назвали данную серию термином «адаптивная платформа ускорения вычислений» (apatptive compute acceleration platform, ACAP).

Наиболее производительными представителями серии являются Versal Premium, позиционирующиеся компанией как основа высокоскоростных сетевых устройств нового поколения. Но до этого момента даже столь многофункциональные процессоры поддерживали лишь внешнюю память DDR4, а её пропускной способности в некоторых сценариях может уже оказаться недостаточно.

Но сегодня Xilinx исправила свою недоработку, анонсировав новую версию Versal, которая получила поддержку набортной памяти HBM2e. Объём банка HBM2e у новинок составляет 32 Гбайт, а пропускная способность достигает 820 Гбайт/с, что в 8 раз быстрее версий, использующих DDR5. При этом такой чип всё равно на 63% экономичнее варианта с DDR5. Для сравнения, NVIDIA A100 в версии c 80 Гбайт HBM2e развивает более 2 Тбайт/с, но этот более сложный и энергоёмкий чип.

Новый вариант ACAP может обеспечить пропускную способность последовательных интерфейсов на уровне 5,6 Тбит/с (используются трансиверы PAM4 со скоростью 112 Гбит/с), 2,4 Тбит/с производительность подсистемы Ethernet, 1,2 Тбит/с на криптографических задачах. Основным интерфейсом является PCI Express 5.0, причём поддерживаются подмножества CCIX и CXL.

В числе применений для Versal с HBM2e на борту Xilinx называет машинную аналитику, ускорение работы с базами данных (которым особенно пригодится быстрая набортная память), финансовое моделирование и инференс-системы для машинного обучения. Найдет своё применение новинка и в сетевых устройствах поколения 800G: маршрутизаторах, умных коммутаторах и брандмауэрах. NPU классической компоновки с такой производительностью потребует нескольких сетевых процессоров и отдельных подсистем памяти, а новые Versal справляются в одиночку и при этом потребляют меньше энергии, что, естественно, положительных сказывается на стоимости владения и обслуживания ЦОД.

Доступна новая версия Xilinx ACAP будет в первой половине следующего года в серии Versal Premium, затем быструю набортную память получат и обычные Versal. Документация и средства разработки появятся раньше, уже во второй половине этого года. Детали можно узнать на сайте Xilinx.

Суперкомпьютерная выставка ISC 2018 во Франкфурте-на-Майне запомнится в том числе специализированными векторными процессорами SX-Aurora Tsubasa японской компании NEC, способными ускорять выполнение ресурсоёмких задач на языках C, C++ и Фортран. Внешне устройства с 16-нм архитектурой NEC Aurora можно принять за обычные ускорители на основе графических процессоров, однако решения NEC не будут напрямую конкурировать с NVIDIA Tesla и AMD Radeon Instinct.

По сравнению с прошлогодними экспонатами SX-Aurora/Vector Engine 0.1, новые устройства радуют разнообразием систем охлаждения. Векторные процессоры объединены брендом Vector Engine 1.0 и могут играть первую скрипку как в однопроцессорных рабочих станциях, так и серверах и суперкомпьютерах.

Ускорители SX-Aurora Tsubasa состоят из восьмиядерного кристалла с 16 Мбайт разделяемой кеш-памяти, тактовой частотой от 1,4 до 1,6 ГГц и пиковой производительностью 2,15 или 2,45 Тфлопс (FP64), а также шести микросхем буферной памяти HBM2 общим объёмом 24 или 48 Гбайт. Пропускная способность подсистемы памяти достигает внушительных 1,2 Тбайт/с.

Для работы процессоров достаточно питания от слота PCI Express x16, а также от 8-контактного разъёма PCI-E Power. Таким образом, их энергопотребление не превышает 225 Вт.

Наличие центробежного вентилятора у двухслотового Vector Engine 1.0 предусмотрено только в младшей версии Type 10C с быстродействием 2,15 Тфлопс и 24 Гбайт памяти HBM2. Данное устройство подходит для рабочих станций или совсем небольших серверов. Отсутствие вентилятора — верный признак «серверности». Такие ускорители могут базироваться на различных кристаллах, включая модификации 10A и 10B с 48 Гбайт памяти.

Наиболее продвинутый вариант Vector Engine 1.0 предусматривает установку водоблока и, соответственно, жидкостное охлаждение. Фронтальная усилительная пластина-радиатор охлаждает элементы питания и вспомогательные микросхемы. Применение СЖО призвано снизить нагрев, уровень шума и энергопотребление.

Без чего векторные ускорители NEC SX-Aurora Tsubasa не могут обойтись, так это без центрального процессора — в этой роли выступают модели Intel Xeon Gold 6100 Series и Xeon Silver 4100 Series. Системы в сборе содержат от 1-й до 64-х карт Vector Engine 1.0 и потребляют в нагрузке от 0,6 до 30 кВт.

Одним из ключевых анонсов в рамках конференции GTC 2018 (26–29 марта, г. Сан-Хосе, США) стала презентация профессионального графического ускорителя NVIDIA Quadro GV100 для рабочих станций. Подобно Quadro GP100, новый адаптер назван в честь графического чипа, ставшего его основой — Volta GV100. Напомним, что последний уже используется в ускорителях Tesla V100 и TITAN V.

Quadro GV100 выполнен в виде двухслотовой карты расширения с интерфейсом PCI Express 3.0 x16. Устройство характеризуется значительным сходством с TITAN V, правда, в отличие от последнего, оперирует не 12, а 32 Гбайт памяти HBM2 с более высокой пропускной способностью — 870 Гбайт/с. Ещё одно важное различие между Quadro GV100 и TITAN V заключается в том, что новая модель Quadro обладает поддержкой интерфейса NVLink с пропускной способностью 200 Гбайт/с. Наконец, вместо разъёма HDMI 2.0b на задней панели TITAN V в Quadro GV100 используется четвёртый DisplayPort 1.4.

В новом ускорителе задействована полноценная версия 12-нм ядра NVIDIA GV100 с 5120 потоковыми процессорами Volta, 320 TMU, 128 ROP и 640 блоками матричных вычислений (Tensor). Разрядность шины памяти составляет 4096 бит, частотная формула — 1450/850(1700) МГц для ядра (с учётом boost-режима) и памяти HBM2 соответственно. «Чистая» производительность Quadro GV100 оценивается в 7,4 Тфлопс для операций с числами двойной точности, 14,8 Тфлопс — одинарной, и 118,5 Тфлопс — Tensor-вычислений.

Перечень поддерживаемых Quadro GV100 разрешений включает 4 × 4096 × 2160 при 120 Гц (т. е. предусмотрена возможность подключения четырёх 120-Гц 4K-мониторов), 4 × 5120 × 2880 при 60 Гц и 2 × 7680 × 4320 при 60 Гц. В числе поддерживаемых технологий отдельно упоминаются NVIDIA RTX (трассировка лучей в реальном времени), API OptiX (графический движок с поддержкой трассировки лучей), Microsoft DXR и Vulkan. Рекомендованная цена нового ускорителя для заказчиков из США составляет $9000 без учёта налога с продаж.

Параллельно стало известно о переводе HPC-ускорителя Tesla V100 на конфигурацию кристалла GPU с двойным объёмом буферной памяти HBM2 — 32 Гбайт. Изменения затронули как SMX2-версию V100, так и вариант данного адаптера в виде карты расширения PCI-E. Повлияло ли обновление ускорителя на его стоимость, пока не ясно.

В перспективе энтузиасты, знающие наизусть названия всех видеокарт на чипе Vega 10, наверняка будут в почёте, ведь AMD уже выпустила более десятка моделей на этом GPU — от профессиональных и HPC до игровых. Очередным пополнением «звёздного» ассортимента стали ускорители Radeon Pro WX 9100 и Radeon Pro SSG, похожие внешне, но предназначенные для различных задач.

AMD Radeon Pro WX 9100 представляет собой расширение имеющегося модельного ряда Radeon Pro для рабочих станций. По сочетанию характеристик карта напоминает многие другие решения на базе Vega 10, а именно Radeon Vega Frontier Edition, Radeon Pro Vega 64 (для iMac Pro) и, в меньшей степени, Radeon Instinct MI25. Устройство оперирует 64 мультипроцессорными кластерами (4096 шейдерных блоков), 2048-битной шиной памяти и 16 Гбайт буферной памяти HBM2. Частотная формула новинки имеет вид 1500/945(1890) МГц для ядра и памяти соответственно, причём для GPU указана не номинальная, а максимальная (boost) частота. Заявленная «чистая» производительность — 12,29 Тфлопс в вычислениях одинарной точности и 24,58 Тфлопс в вычислениях половинной точности.

Система охлаждения Radeon Pro WX 9100 занимает два слота расширения. Дополнительных разъёмов питания два — 6- и 8-контактный. За вывод изображения отвечают шесть портов Mini DisplayPort.

Новый ускоритель предназначен для выполнения широкого круга задач в трёх основных областях — дизайн и производство, медиа и развлечения, и разработка игр. AMD упоминает о таких приложениях, как Siemens NX, PTC Creo, SolidWorks, Autodesk Revit, Adobe After Effects, Adobe Premiere Pro, Autodesk 3ds Max, Autodesk Maya, Avid Media Composer, Blender, а также игровых движках Unity и Unreal Engine.

С учётом вышеприведённых данных, другой новый адаптер для профессионалов — Radeon Pro SSG — можно описать всего несколькими словами. Это фактически Radeon Pro WX 9100 с 2 Тбайт флеш-памяти. Столь необычный симбиоз обусловлен потребностью создателей 8K-контента в очень большом объёме буферной памяти. Благодаря ей, GPU при поддержке микросхем HBM2 может обеспечивать высокую кадровую частоту (от 30 до 90 к/с) при воспроизведении 8K-видео в процессе работы над ним в приложениях Adobe After Effects и Adobe Premiere Pro.

Как следует из нижеприведённой схемы, контроллер памяти HBCC «сгружает» данные либо в буферную память на самом GPU, либо на набортный PCI-E SSD, взаимодействие с которым осуществляется по протоколу NVMe. Кроме 8K-видео, Radeon Pro SSG является подходящим инструментом для создания VR и 360° контента.

Профессиональные ускорители AMD Radeon Pro WX 9100 и Radeon Pro SSG будут доступны для заказа начиная с 13 сентября по ориентировочным ценам $2199 и $6999 соответственно (для рынка США).

За многослойной высокоскоростной памятью будущее — если не в обычных системах, где может потребоваться замена модулей памяти, то там, где память устанавливается раз и навсегда, использование HBM (High Bandwidth Memory) и её аналогов позволяет достичь невиданного ранее уровня производительности. Но память не существует сама по себе, ей необходима «обвязка» в виде контроллера и интерфейса физического уровня (PHY). Такое решение под названием DesignWare HBM2 представила компания-разработчик Synopsys. Новый дизайн позволяет добиться пропускной способности интерфейса на уровне 307 Гбайт/с, что в 12 раз быстрее интерфейса DDR4-3200.

Кроме того, комплекс DesignWare HBM2, состоящий из контроллера, физического интерфейса и модуля проверки, позволяет добиться и в 10 раз более высокой энергоэффективности в сравнении с вышеупомянутым стандартом DDR4. Данное решение может найти применение практически в любой сфере: продвинутые графические процессоры, суперкомпьютеры и сети требуют всё более и более быстрой памяти, дабы она не стала узким местом в процессе роста производительности. Базируется новый дизайн на уже проверенных технологиях Synopsys, разработанных для HBM первого поколения и DDR4, — они прошли проверку временем и в настоящее время используются сотнях самых различных чипов.

Дизайн Synopsys DesignWare HBM2 используется и в одном из самых ожидаемых проектов этого года — графическом процессоре AMD Vega. В профессиональных моделях Radeon Vega Frontier Editon с объёмом памяти 16 Гбайт он уже дебютировал. Новое решение обладает высокой гибкостью: так, новый контроллер умеет оперировать каналами памяти так, чтобы обеспечивать максимальную пропускную способность на основе анализа паттернов трафика. В связке контроллера и блока PHY использован универсальный интерфейс DFI 4.0, облегчающий интеграцию, а система проверки полностью соответствует требованиям JEDEC, предъявляемым к многослойной памяти. Комплекс Synopsys DesignWare HBM2 уже доступен для разработчиков, использующих 14- и 7-нм технологические процессы, версии для иных техпроцессов уже в разработке и будут доступны позднее.

В модельном ряду видеокарт, профессиональных и HPC-ускорителей Radeon на основе 14-нм графических процессоров AMD Vega ожидается пополнение. Таковым станет производительный адаптер для рабочих станций Radeon Pro WX 9100. Соответствующее название было обнаружено энтузиастами VideoCardz в онлайн-базе бенчмарка CompuBench. Карта была протестирована в сценарии Advanced Compute, и её результат оказался значительно выше, чем у анонсированного ранее ускорителя Radeon Pro WX 7100 на чипе Polaris 10 с 2304 потоковыми процессорами. Преимущество составило от 43,1 до 68,3 %.

Во вкладке информации об устройстве обнаружились данные, которые однозначно позволяют идентифицировать Radeon Pro WX 9100 как очередную карту на графическом процессоре Vega. На это, в частности, указывают кодовое имя «gfx900», количество вычислительных блоков (CU) в 64 шт. и объём видеопамяти в 16 978 542 592 байт (16 Гбайт). Частота протестированного экземпляра Radeon Pro WX 9100 была довольно низкой — 1200 МГц. Пока тяжело сказать, является ли это значение окончательным для данного ускорителя, или же дело всего лишь в конкретном опытном образце с не самым лучшим частотным потенциалом.

Зачем же AMD собирается выпустить ещё один профессиональный видеоадаптер, едва анонсировав дуэт карт Radeon Vega Frontier Edition? Похоже, сфера использования Radeon Pro WX 9100 будет ограничена CAD/CAM-приложениями, в то время как модель Radeon Vega FE заинтересует главным образом разработчиков игр (в том числе благодаря возможности активации игрового режима в пару кликов).

Radeon Vega Frontier Edition с воздушной СО

Скорее всего, дизайн Radeon Pro WX 9100 будет перекликаться с Radeon Vega FE. Это означает применение двухслотового кулера, как минимум четырёх видеовыходов и двух разъёмов PCI-E Power. При частоте ядра в 1200 МГц энергопотребление ускорителя может быть ниже 300 Вт. Рекомендованным сочетанием CPU и GPU, вероятно, станут 8- и 16-ядерные процессоры AMD EPYC/Threadripper и собственно WX 9100.

Ассортимент адаптеров на чипе Vega продолжает расширяться. Ниже приведён список устройств, о которых было известно на момент подготовки данной заметки.

На конференции GTC 2017 в американском городе Сан-Хосе компания NVIDIA в лице её генерального директора Дженсена Хуанга (Jen-Hsun Huang) представила ускоритель Tesla V100 для дата-центров на основе графического процессора Volta GV100. Разработка последнего обошлась NVIDIA в $3 млрд, и в результате свет увидел чип площадью 815 мм², содержащий 21,1 млрд транзисторов, более 5000 потоковых процессоров и новые блоки Tensor, повышающие производительность GPU в так называемых матричных вычислениях. Изготовление ядер GV100 было поручено давнему партнёру NVIDIA — тайваньскому полупроводниковому гиганту TSMC. Техпроцесс выпуска — 12-нм FFN. Последняя буква в аббревиатуре FFN обозначает не что иное, как «NVIDIA»: технологическая норма разрабатывалась с учётом требований заказчика.

Tesla V100

Из года в год сложность архитектуры кремниевых кристаллов для HPC-задач продолжает расти, и теперь, с дебютом NVIDIA Volta, остаётся констатировать, что помимо потоковых процессоров, кеш-памяти первого и второго уровней, текстурных блоков, контроллеров VRAM и системного интерфейса, частью high-end GPU становятся блоки Tensor. У GV100 их по 8 на мультипроцессорный кластер (SM) и 672 в целом.

SM-блок Volta GV100

Матричные вычисления в блоках Tensor увеличивают производительность нового ядра в задачах машинного обучения до 120 Тфлопс. В то же время быстродействие GV100 в FP32-вычислениях составляет 15 Тфлопс, а в FP64-вычислениях — 7,5 Тфлопс.

Volta GV100

Ядро Volta GV100 неотделимо от буферной памяти — четырёх микросхем HBM2, взаимодействующих с GPU по 4096-битной шине. Объём каждого чипа составляет 4 Гбайт, пропускная способность подсистемы памяти — 900 Гбайт/с. Кристалл GV100 дебютирует одновременно с ускорителем Tesla V100, являясь его основой. В V100 ядро работает на частоте до 1455 МГц (с учётом динамического разгона) обеспечивая вышеуказанную производительность в FP32-, FP64- и матричных (Tensor) вычислениях. Адаптер с GPU впечатляющих размеров потребляет умеренные 300 Вт — столько же, сколько и Tesla P100.

Спецификации ускорителей NVIDIA Tesla разных лет

Вычислительные возможности Volta GV100

По эскизу в начале данной заметки можно было догадаться, что соединение Tesla V100 с такими же ускорителями и центральным процессором обеспечивает интерфейс типа NVLink. В этот раз это не интерфейс первого поколения, а NVLink 2.0 — соответствующие контакты находятся на тыльной поверхности карты. В Tesla V100 реализовано шесть двунаправленных 25-Гбайт соединений (суммарно 300 Гбайт/с), а также функция согласования содержимого кеш-памяти с кешем центрального процессора IBM POWER9.

Распространение новых HPC-ускорителей будет осуществляться по межкорпоративным (B2B) каналам. При этом заказчики получат свободный выбор между готовыми решениями вкупе с сопутствующим программным обеспечением и технической поддержкой. Все три системы — DGX-1, HGX-1 и DGX Station — предназначены для решения задач, связанных с развитием искусственного интеллекта (AI).

С системой глубинного обучения NVIDIA DGX-1 первого поколения мы уже знакомили читателей — она использует восемь ускорителей Tesla P100 с производительностью 170 Тфлопс в вычислениях половинной точности (FP16). Обновлённый сервер DGX-1 содержит восемь карт Tesla V100 с быстродействием 960 Тфлопс (FP16), два центральных процессора Intel Xeon и блок(-и) питания суммарной мощностью не менее 3200 Вт. Такой апгрейд позволяет выполнять не только типичные задачи в области исследования AI, но и переходить к новым, целесообразность решения которых прежде была под вопросом ввиду высокой сложности вычислений.

Предварительный заказ системы NVIDIA DGX-1 второго поколения обойдётся всем желающим в $149 000. Ориентировочный срок начала поставок — третий квартал текущего года.

Сервер HGX-1 на восьми ускорителях Tesla V100 аналогичен DGX-1. Ключевое отличие данной системы заключается в применении жидкостного охлаждения компонентов. Кроме того, NVIDIA HGX-1 проще внедрить с ИТ-инфраструктуру компаний. Помимо глубинного обучения, этот сервер может использоваться в экосистеме GRID, а также для решения широкого круга HPC-задач.

NVIDIA DGX Station представляет собой высокопроизводительную рабочую станцию с четырьмя картами Tesla V100, центральным процессором Intel Xeon, системой жидкостного охлаждения и 1500-ваттным источником питания. Ускорители NVIDIA в составе DGX Station оснащены интерфейсом NVLink 200 Гбайт/с и тремя разъёмами DisplayPort с поддержкой разрешения 4K.

В матричных Tensor-вычислениях DGX Station обеспечивает быстродействие на уровне 480 Тфлопс. Стоимость рабочей станции для рынка США равна $69 000.

До сих пор единственными профессиональными ускорителями NVIDIA Pascal для рабочих станций были модели верхнего ценового сегмента Quadro P6000 и P5000. И вот, наконец, калифорнийский разработчик решил отправить карты семейств Kepler и Maxwell на покой, предложив им альтернативу в виде пяти адаптеров Quadro — от P4000 на чипе GP104 до P400 на GP107. Параллельно дебютировал новый флагман — Quadro GP100 на одноимённом ядре. С него, пожалуй, и начнём.

Модель GP100 позиционируется как альтернатива Quadro P6000 для тех, кому необходима высокая производительность при операциях с числами двойной точности (FP64) — около 5 Тфлопс. Новинка имеет меньший объём памяти, чем P6000, но, с другой стороны, пропускная способность микросхем HBM2 выше, чем у GDDR5X. Она достигает 716,8 Гбайт/с при эффективной частоте памяти в 1400 МГц. Карта занимает два слота расширения и потребляет 235 Вт. Её стоимость, скорее всего, превысит отметку в $5000 (для рынка США).

Кристалл GP100 в окружении четырёх микросхем HBM2

Графический адаптер Quadro P4000 8GB призван заменить Quadro M4000 (GM204) с тем же объёмом буферной памяти. Дебютант базируется на урезанном ядре Pascal GP104, а к его достоинствам стоит отнести невысокое энергопотребление (105 Вт) и однослотовое исполнение. По соотношению производительности и энергопотребления в FP32-вычислениях Quadro P4000 предпочтительнее GP100.

Quadro P2000 5GB имеет «экзотическую» конфигурацию ядра GP106: из шести 32-битных контроллеров памяти работают пять, количество потоковых процессоров, TMU и ROP уменьшено до 1024, 64 и 40 (по другим данным — 32) соответственно. Козырем новинки является отсутствие потребности в дополнительном питании и наличие четырёх разъёмов DisplayPort 1.4, как и у Quadro P4000.

Для относительно скромных низкопрофильных видеоадаптеров Quadro P1000, Quadro P600 и Quadro P400 избран 14-нм графический чип GP107. Производительность модели P1000 примерно в три раза выше, чем у P400, что заставляет усомниться в наличии у последней 128-разрядной шины памяти.

Синтетический тест SPECviewperf 12 показал значительное преимущество новых моделей Quadro Pascal над предшественниками — от 30 % до 100 %. Двукратный прирост был отмечен у Quadro P400 в сравнении с Quadro K420.

Поставки профессиональных ускорителей Quadro GP100, P4000, P2000, P1000, P600 и P400 начнутся в марте. Компании Dell, HP, Lenovo, Fujitsu и другие включат их в состав фирменных рабочих станций. В розничной продаже новинки можно будет встретить под брендом PNY.