Материалы по тегу: nvidia

23.09.2021 [13:49], Владимир Мироненко

Selectel предлагает бесплатно протестировать NVIDIA DGX A100

Selectel, российский провайдер облачных услуг и дата-центров, объявил о пополнении портфолио своих решений вычислительной системой NVIDIA DGX A100 производительностью 5 Пфлопс, оптимизированной для работы с ИИ — от анализа данных до тренировки и инференса. Решение подойдёт крупным компаниям в сферах AI, ML и обработки данных, исследовательским организациям, промышленным компаниям, а также организациям в сфере образования и науки. Прямо сейчас Selectel предлагает бесплатно протестировать новинку.

NVIDIA DGX A100 представляет собой стоечный сервер в форм-факторе 6U, оснащённый 8 ускорителями NVIDIA Tesla A100 с тензорными ядрами и общим объёмом памяти 320 Гбайт (по 40 Гбайт у каждого). Ёмкость NVMe SSD (PCIe 4.0) составляет 15 Тбайт. Объём оперативной памяти равен 1 Тбайт — всего шестнадцать слотов для модулей памяти DDR4-3200 объёмом 64 Гбайт. Этого достаточно для решения даже самых сложных задач в области ИИ.

В NVIDIA DGX A100 используются два 64-ядерных процессора AMD EPYC 7742 поколения Rome с возможностью одновременной обработки до 128 потоков инструкций и рабочей частотой 2,25 ГГц (максимальная — 3,4 ГГц). Система также включает 6 коммутаторов NVIDIA NVSwitch шестого поколения, 9 адаптеров Mellanox ConnectX-6 VPI HDR/200GbE.

В данной конфигурации система потребляет порядка 5 кВт, но эффективная воздушная система охлаждения позволяет удерживать температуры CPU и GPU в пределах +69 °C. В портфолио Selectel уже есть серверы с восемью PCIe-ускорителями NVIDIA A100, но DGX-система использует более мощные SXM4-версии A100 и быстрый интерконнект NVSwitch. Компания сравнила обе версии A100 в GeekBench 5 Compute и ai-benchmark.

Первый тест оценивает общие вычислительные возможности, а второй позволяет замерить скорость обучения и применения различных нейронных сетей на задачах распознавания и классификации. Если же вы хотите самостоятельно оценить возможности DGX A100 в ваших задачах, то Selectel предлагает бесплатно протестировать новинку. Заявку можно оставить на странице акции.

Постоянный URL: http://servernews.ru/1049675
09.09.2021 [22:06], Алексей Степин

Анонсирована компактная платформа машинного зрения Lenovo ThinkEdge SE70

Сама специфика периферийных вычислений предъявляет к платформам этого класса особые требования: компактность, экономичность и повышенная защищённость от факторов среды. Новая платформа Lenovo ThinkEdge SE70 удовлетворяет всем современным требованиям и ориентирована на применение в системах машинного зрения нового поколения.

Само по себе машинное зрение (computer vision, CV) не является новой технологией, но лишь сравнительно недавно вычислительные технологии стали достаточно продвинутыми, чтобы развёртывать такие системы непосредственно на месте, без организации отдельного помещения с серверами. В настоящее время CV переживает настоящий бум; так, если верить опросам IDG, свыше 95% респондентов считают, что внедрение машинного зрения может повысить доходы, либо сэкономить время и ресурсы.

Новая система Lenovo ThinkEdge SE70 создана специально с прицелом на использование в CV-системах. В данном случае архитектура x86 не используется, хотя она и встречается в некоторых платформах для периферийных вычислений. Вместо этого сердцем ThinkEdge SE70 стал модуль NVIDIA Jetson Xavier NX, очень компактный, но при этом достаточно мощный.

Центральный процессор системы имеет шесть 64-бит ядер общего назначения с микроархитектурой Carmel (ARMv8.2), 384 графических ядра Volta и 48 тензорных ядер. В задачах распознавания образов, где широко используется формат INT8, его производительность оценивается в 21 Топс. Хотя процессор использует не самый новый 12-нм техпроцесс, конструкция ThinkEdge SE70, имеющая массивное оребрение корпуса, позволяет обойтись пассивным охлаждением, что для edge-платформы важно.

Для совсем уж суровых условий новинка не подойдёт, поскольку имеет лишь сертификат защиты IP51, но пыли или конденсата она не испугается и сможет работать в диапазоне температур от -20 до +60 °C. При этом поддерживается питание от любого источника постоянного тока с напряжением от 9 до 48 В. Стандартная сетевая подсистема представлена двумя портами 1GbE, а также последовательным портом и шинами CAN/DIO. Число сетевых портов можно нарастить до 8, причём с поддержкой PoE.

Lenovo ThinkEdge SE70 создавалась в содействии с Amazon Web Services, которая активно продвигает собственные наработки в области машинного зрения, в частности, программную платформу Panorama. Система будет поставляться с предустановленным SDK, позволяющим быстро превратить обычные IP-камеры в «умные». Начало поставок новой CV-платформы намечено на первую половину следующего года.

Постоянный URL: http://servernews.ru/1048695
25.08.2021 [15:40], Сергей Карасёв

«Тренировочный» суперкомпьютер Polaris получит 560 процессоров AMD EPYC и 2240 ускорителей NVIDIA A100

Аргоннская национальная лаборатория Министерства энергетики США анонсировала проект высокопроизводительного вычислительного комплекса Polaris. Созданием этого суперкомпьютера займутся специалисты Hewlett Packard Enterprise (HPE), а его ввод в эксплуатацию запланирован на начало следующего года.

В основу системы лягут 280 узлов HPE Apollo 6500 Gen10 Plus. Говорится об использовании 560 процессоров AMD EPYC второго и третьего поколений, а также 2240 ускорителей NVIDIA A100. Узлы будут объединены интерконнектом HPE Slingshot, а мониторинг и управление системой будет осуществляться HPE Performance Cluster Manager.

Пиковое быстродействие комплекса составит приблизительно 44 Пфлопс на FP64-операциях. Теоретическая производительность при работе с ИИ-задачами будет достигать 1,4 Эфлопс. Использовать суперкомпьютер планируется при решении ряда сложных задач. Среди них названы исследования в космической сфере, изучение биологии вирусов, проекты в области чистой энергии, производства и пр.

Аргоннская национальная лаборатория

Аргоннская национальная лаборатория

Отмечается, что создание Polaris поможет подготовиться, потренировавшись в переносе и оптимизации ПО, к появлению вычислительной системы Aurora экзафлопсного уровня, выход которой неоднократно откладывался. Это совместный проект Аргоннской национальной лаборатории, компаний Intel и HPE. Данная система обеспечит в четыре раза более высокое быстродействие по сравнению с нынешними суперкомпьютерами лаборатории. Первой экзафлопсной системой в США станет суперкомпьютер Frontier на базе AMD EPYC и Instinct.

Постоянный URL: http://servernews.ru/1047542
25.08.2021 [12:53], Владимир Мироненко

NVIDIA объявила о доступности комплексного ИИ-решения AI Enterprise для предприятий

NVIDIA объявила о широкой доступности NVIDIA AI Enterprise, комплексного программного пакета фреймворков и инструментов искусственного интеллекта, включая PyTorch, TensorFlow, NVIDIA Inference Server и т. д., готового к работе в среде виртуализации VMware vSphere в виде виртуальных машин или контейнеров. С его помощью компании смогут виртуализировать рабочие задачи ИИ на сертифицированных системах NVIDIA.

Такие системы будут предлагать Atos, Dell Technologies, GIGABYTE, HPE, Inspur, Lenovo и Supermicro, заключившие соглашения с NVIDIA. В свою очередь, Dell Technologies сообщила, что Dell EMC VxRail стала первой гиперконвергентной платформой, которая получила сертификацию NVIDIA AI Enterprise. А Domino Data Lab проводит валидацию своей платформы Domino Enterprise MLOps для NVIDIA AI Enterprise, работающей на распространённых сертифицированных системах NVIDIA.

Манувир Дас (Manuvir Das), глава подразделения корпоративных вычислений в NVIDIA отметил, что теперь программное обеспечение NVIDIA, предоставляющее широкие возможности для работы с ИИ, стало широко доступно. Благодаря NVIDIA AI Enterprise компании по всему миру теперь могут разрабатывать широкий спектр приложений, используя наиболее распространённые в мире серверы для развёртывания и масштабирования приложений обработки данных, диалогового ИИ, компьютерного зрения, рекомендательных систем и т. д.

NVIDIA AI Enterprise позволяет легко и экономично выполнять задачи ИИ с помощью тех же инструментов, которые используются для управления крупномасштабными центрами обработки данных и гибридными облаками. Сертифицированные системы NVIDIA AI Enterprise комплектуются графическими процессорами NVIDIA, включая A100, A40, A30 и A10, а также T4. Клиентам предлагается широкий выбор конфигураций для обеспечения высокой производительности в задачах ИИ в vSphere, которая практически неотличима от возможностей bare metal.

Стоимость подписки начинается с $2000 за сокет CPU сроком на один год и включает поддержку Business Standard (пять дней в неделю, девять часов в день). Бессрочные лицензии стоят $3595 долларов США с условием приобретения дополнительной поддержки. Можно также перейти на поддержку Business Critical, чтобы получить круглосуточный доступ к службе поддержки NVIDIA AI.

Постоянный URL: http://servernews.ru/1047480
04.08.2021 [21:56], Андрей Галадей

Project Monterey от NVIDIA и VMware появился в раннем доступе

VMware, Dell Technologies и NVIDIA объявили о раннем доступе к Project Monterey. Этот проект предназначен для развития архитектуры традиционных центров обработки данных и перевода их на программно определяемую архитектуру с аппаратным ускорением по модели гибридного облака.

В рамках Project Monterey предполагается перенос значительной части служебных нагрузок с CPU на DPU. Подобное решение крайне востребовано для ИИ-задач, а также других ресурсоёмких нагрузок, где нужен потоковый анализ трафика в реальном времени, с чем традиционные архитектуры ЦОД могут просто не справиться.

В качестве тестовой платформы предлагается готовый кластер из серверов Dell EMC PowerEdge R750 с DPU NVIDIA BlueField-2, работающих под управлением программной платформы VMware. А персональный эксперт поможет разобраться в новом решении и наглядно продемонстрировать его преимущества:

  • Повышение производительности приложений и инфраструктурных сервисов.
  • Улучшение безопасности приложений и их мониторинг.
  • Ускорение работы межсетевого экрана.
  • Повышение эффективности и снижение накладных расходов в ЦОД, на периферии и в облаке.
Постоянный URL: http://servernews.ru/1045966
27.07.2021 [01:29], Андрей Галадей

NVIDIA и Королевский колледж Лондона ускорили исследования мозга с помощью суперкомпьютера Cambrdige-1

Компания NVIDIA и Королевский колледж Лондона обнародовали новые подробности об одном из первых проектов, запущенном на суперкомпьютере Cambridge-1, самой мощной системой такого класса в Великобритании. Система состоит из 80 модулей DGX A100 (80 Гбайт), объединённых интерконнектом InfiniBand HDR на базе DPU Bluefield-2. Постройка суперкомпьютера обошлась NVIDIA в $100 млн. В рейтинге TOP500 он занимает сейчас 41 место.

Сейчас суперкомпьютер используется для создания ИИ-моделей, способных генерировать синтетические изображения мозга на основе изображений, полученных с помощью МРТ. Это даёт возможность научить ИИ отличать здоровый мозг от больного, поскольку его тренируют на снимках пациентов разного возраста и с различными недугами. Как ожидается, в перспективе это позволит диагностировать возможные неврологические отклонения или заболевания мозга на ранней стадии.

Также новая методика с использованием ИИ может стать новаторским решением в понимании того, как формируется мозг, как травмы и болезни влияют на него, и как помочь ему восстановиться. Как отмечается, суперкомпьютер ускорил работы, сократив время обучение ИИ-моделей с месяцев до недель, а также дал возможность создавать более чёткие изображения.

В качестве программной составляющей используется свободный фреймворк MONAI на основе PyTorch, библиотека NVIDIA CUDA Deep Neural Network (cuDNN) для ускорения глубокого обучения нейросетей, а также NVIDIA Omniverse — открытая платформа для виртуального моделирования и визуализации в реальном времени.

Постоянный URL: http://servernews.ru/1045221
23.07.2021 [10:10], Владимир Мироненко

Клиентам Selectel доступны лицензии NVIDIA для организации виртуальных рабочих мест

Selectel, ведущий российский провайдер услуг облачных инфраструктурных сервисов и дата-центров, получил статус Cloud Service Provide партнёрской программы NVIDIA (NVIDIA Partner Network). Благодаря этому Selectel теперь имеет возможность предоставлять клиентам услуги по аренде лицензий NVIDIA, позволяющие заказчикам выделенных серверов Selectel, а также клиентам «Облака на базе VMware» обеспечить организацию виртуальных рабочих мест и оптимизации потребления ресурсов графических процессоров.

Клиентам Selectel доступны любые типы лицензий NVIDIA сроком от одного месяца с оплатой за фактическое использование решений. Ресурсы одного GPU можно будет использовать для нескольких виртуальных машин (shared), что позволит увеличить эффективность работы распределённых команд и оптимизировать расходы. Для ресурсоёмких задач, можно будет использовать сразу несколько GPU для одной виртуальной машине (aggregation), что ускорит их выполнение.

Компания предлагает клиентам серверы с графическими картами для 3D-моделирования, рендеринга, машинного обучения и сложной аналитики в аренду от 1 дня. Клиент может заказать аренду готового сервера или указать конфигурацию с необходимыми параметрами, которая будет готова в течение 1–5 дней.

В услугу аренды сервера входит:

  • бесплатный трафик: на скорости 100 Мбит/с — безлимитно, на скорости 1 Гбит/c — 30 Тбайт для серверов Chipcore или 5 Тбайт для других серий;
  • 1 общий публичный IPv4-адрес;
  • автоустановка ОС;
  • управление через API;
  • бесплатная замена комплектующих в течение 3-х часов в случае выхода оборудования из строя;
  • бесплатный DNS-хостинг;
  • 3 бесплатные метрики для настройки автоматического мониторинга.

«В прошлом году с переходом в онлайн увеличился спрос со стороны бизнеса на серверы и облачные решения. Даже у небольших компаний ощутимо выросла потребность в надежной инфраструктуре для реализации своих задач и поддержки работы распределенных команд, — рассказал Константин Ефимов, руководитель отдела закупки оборудования, Selectel. — Комбинация преимуществ продуктовых решений Selectel с технологиями виртуализации NVIDIA позволит нашим клиентам быстрее и эффективнее справляться со сложными задачами, связанными с 3D-моделированием, рендерингом, глубокой аналитикой и машинным обучением».

«Мы рады приветствовать Selectel, крупнейшего игрока на рынке облачных инфраструктурных сервисов и услуг дата-центров, в качестве официального облачного провайдера NVIDIA, — отметила Ирина Лобачева, менеджер по работе с партнерами в NVIDIA. — В новом статусе Selectel сможет обеспечить заказчикам еще больше возможностей и гибкости при работе с ресурсоемкими задачами в облаке. Одним из первых заказчиков Selectel, который уже оценил преимущества комплексного решения, стал “ПИК-Проект”, проектное бюро ведущего девелопера России. Для них это стало эффективным инструментом по снижению расходов и повышению удобства при работе с облаком».

Тестирование решений NVIDIA проводится в виртуальной лаборатории NVIDIA, оставить заявку можно на сайте Selectel.

Постоянный URL: http://servernews.ru/1044878
21.07.2021 [14:53], Сергей Карасёв

Промышленный компьютер Vecow EAC-2000 оснащён модулем NVIDIA Jetson Xavier NX

Представлен компактный компьютер промышленного класса Vecow EAC-2000: эта встраиваемая система ориентирована на решение задач, связанных с машинным зрением, искусственным интеллектом, видеонаблюдением и пр. Кроме того, устройство может применяться в составе платформа для Интернета вещей и умных производств.

В основе новинки — модуль NVIDIA Jetson Xavier NX. Его конфигурация включает шестиядерный процессор NVIDIA Carmel, а также GPU на архитектуре Volta с 384 ядрами CUDA и 48 тензорными ядрами, а также двумя NVDLA-акселераторами. Объём оперативной памяти LPDDR4x DRAM составляет 8 Гбайт, ёмкость флеш-модуля eMMC — 16 Гбайт.

Здесь и ниже изображения Vecow

Здесь и ниже изображения Vecow

Устройство оснащено четырьмя 1GbE-портами RJ-45, два из них поддерживают технологию PoE+. Система может быть оборудована твердотельным модулем M.2 2280. В перечне опций значатся модули с поддержкой различных технологий беспроводной связи — 5G, 4G, Wi-Fi и Bluetooth. На корпус выведены соответствующие коннекторы для внешних антенн.

Габариты компьютера составляют 150,0 × 106,2 × 62,0 мм, масса — 1,3 кг. Доступны четыре порта USB 3.1 Type-A, два последовательных порта, два разъёма Micro-USB и интерфейс HDMI. В модификации EAC-2100 также есть один DB9-порт CAN Bus 2.0 A/B и четыре порта Fakra Z для GMSL-камер. Диапазон рабочих температур — от -25 до +70 °C. В качестве программной платформы применяется Ubuntu 18.04.

Постоянный URL: http://servernews.ru/1044799
21.07.2021 [14:43], Алексей Степин

NVIDIA анонсировала восьмое поколение ПО TensorRT

Современные диалоговые комплексы часто строятся на глубоком машинном обучении. Обучение такого рода систем требует существенных вычислительных ресурсов, а главное — эффективного программного обеспечения. Восьмое поколение TensorRT должно ещё больше ускорить и облегчить процесс разработки. Компания активно продвигает свои решения в мире инференс-систем и за последние несколько месяцев объявила о существенном увеличении контрактов на построение «умных» рекомендательных систем.

Количество голосовых помощников год от года увеличивается ударными темпами, но от них также требуется и качество — вряд ли кому-то понравится бот или сервис рекомендаций, не способный справляться со своими обязанностями. Разработки NVIDIA, от компактных плат Jetson до сверхмощных ускорителей A100, позволяют создавать действительно мощные инференс-системы для такого рода задач, но без сопутствующих средств разработки они бесполезны.

Уже предыдущее, седьмое поколение инференс-платформы TensorRT, позволило достичь десятикратного ускорения в диалоговых приложениях по сравнению с их запуском на классических процессорах. В новой, анонсированной только что восьмой версии, NVIDIA продолжила дальнейшую оптимизацию TensorRT.

NVIDIA TensorRT подразумевает высокую степень интеграции

NVIDIA TensorRT подразумевает высокую степень интеграции

Изменения в новом пакете присутствуют как количественные — производительность выросла вдвое в сравнении с TensorRT 7, — так и качественные — появилась поддержка особенностей архитектуры Ampere и новой технологии Quantization Aware Training (QAT). Помимо чистой производительности также снизилась латентность, теперь минимальное её значение составляет всего 1,2 мс.

Новая версия TensorRT позволит сделать машинный интеллект ещё умнее

Новая версия TensorRT позволит сделать машинный интеллект ещё умнее

Из качественных нововведений первым пунктом следует отметить оптимизацию для работы в режиме Sparsity, в котором редуцируются незначащие параметры, практически не влияющие на результат. TensorRT 8 позволяет не затрачивать существенные ресурсы в таких случаях, экономя как вычислительные такты, так и сохраняя память для более важных данных. Технология QAT же позволяет существенно поднять точность вычислений в режиме INT8 на ускорителях NVIDIA с архитектурой Ampere.

Постоянный URL: http://servernews.ru/1044800
14.07.2021 [23:23], Алексей Степин

NVIDIA поможет академическим и образовательным кругам бесплатным железом и ПО

Современные научные исследования немыслимы без масштабных вычислений и компании-разработчики аппаратного обеспечения это хорошо понимают, финансируя программы, нацеленные на помощь науке и образованию. Об инициативе AMD AEIR мы уже рассказывали в одной из предыдущих заметок, а сейчас в чём-то похожую программу запускает NVIDIA.

Исторически сложилось так, что AMD на рынке GPGPU находится в положении догоняющего — сказывается наследие ещё ATI Technologies. Хотя в последнее время ситуация и исправляется, но ускорители Instinct всё ещё не столь популярны, как продукты NVIDIA. Как уже сообщалось ранее, с целью исправить эту ситуацию «красные» запустили проект AEIR, позволяющий учёным и исследователям получить удалённый доступ к новейшему ПО и аппаратным платформам, равно как и к технической и информационной поддержке.

NVIDIA RTX A6000: архитектура Ampere, под условия Hardware Grant Programme подходит

NVIDIA RTX A6000: архитектура Ampere, под условия Hardware Grant Programme подходит

А буквально на днях «зелёные» объявили о старте проекта Hardware Grant Programme. Эта программа позволит академическим кругам получить доступ к современному «железу» — ускорители RTX для рабочих станций с архитектурой Ampere, комплекты разработчика Jetson и высокопроизводительные сетевые сопроцессоры BlueField — и программному обеспечению, разработанному NVIDIA. Также в рамках Hardware Grant Programme некоторые проекты могут получить доступ к сетевой вычислительной инфраструктуре на базе решений NVIDIA.

Поиграть в свободное от исследований время участникам NVIDIA Hardware Grant Programme не удастся

Поиграть в свободное от исследований время участникам NVIDIA Hardware Grant Programme не удастся

Однако, как отмечает глава новой программы, Ребекка Невин (Rebecca Nevin), в этот список не входят игровые и полупрофессиональные карты серии RTX 3000. Соискатели программы должны представлять известный университет или НИИ и «продемонстрировать понимание того, как технологии NVIDIA могут использоваться для ускорения исследований». Претендовать на бесплатные решения могут и образовательные организации, правда, в обмен на обещание использовать SDK NVIDIA и «предоставлять учащимся возможность отточить свои навыки».

NVIDIA Quadro GV100: «старый, но небесполезный»

NVIDIA Quadro GV100: «старый, но небесполезный»

Отметим, что для ряда научных вычислений, требующих высокой точности, указанные ускорители подходят не лучшим образом, поскольку даже в серии Quadro производительность в режиме FP64 составляет лишь 1/32 от производительности FP32, а далеко не самый новый ускоритель Quadro GV100 на базе архитектуры Volta может предложить учёным около 8 Тфлопс против 1,25 Тфлопс у новейшего RTX A6000.

Подать заявление на участие в NVIDIA Hardware Grant Programme можно до 23 июля, подробности содержатся на веб-странице проекта. Победители будут оглашены 27 августа, раздача следующей партии запланирована на январь следующего года.

Постоянный URL: http://servernews.ru/1044259
Система Orphus