Французский провайдер инфраструктуры облачных вычислений Scaleway SAS объявил о доступности так называемых оптимизированных по стоимости (Cost-Optimized) инстансов на базе архитектуры Arm (COP-ARM), предназначенных для обработки нагрузок ИИ и HPC.

Инстансы COP-ARM используют процессоры Ampere Altra. Компания утверждает, что процессоры Altra могут стать более доступным вариантом для клиентов, желающих запускать обучение и инференс больших языковых моделей (LLM). По словам компании, они специально созданы для обработки рабочих нагрузок ИИ в реальном времени, таких как чат-боты, анализ данных и анализ видеоконтента.

Директор по продуктам Ampere Джефф Виттич (Jeff Wittich) заявил, что CPU идеально подходят для инференса. «В целом модели ИИ станут меньше и более ориентированными на конкретные задачи», — прогнозирует Виттич. Именно здесь может потребоваться энергоэффективность инстансов Scaleway. Он заявил, что запуск модели OpenAI Whisper на 128-ядерном процессоре Altra Max потребляет в 3,6 раза меньше энергии, чем при использовании ускорителя NVIDIA A10.

Источник изображения: Scaleway

Scaleway также объявила о сотрудничестве с NVIDIA с целью предоставить европейским стартапам доступ к ускорителям NVIDIA, программному обеспечению NVIDIA AI Enterprise и сервисам для ускорения разработки больших языковых моделей (LLM) и приложений генеративного ИИ. В рамках бесплатной программы NVIDIA Inception, предоставляющей техническое руководство, обучение и скидки, стартапы полагаются на возможности суверенных облачных вычислений инфраструктуры Scaleway.

В частности, новый суперкомпьютер Scaleway Nabuchodonosor на базе NVIDIA DGX SuperPOD со 127 узлами DGX H100 поможет стартапам во Франции и по всей Европе масштабировать рабочие нагрузки ИИ. Региональные участники Inception также получат доступ к ПО NVIDIA AI Enterprise на Scaleway Marketplace, включая платформу NVIDIA NeMo и предварительно обученные LLM, NVIDIA RAPIDS, а также NVIDIA Triton и NVIDIA TensorRT-LLM.

Ряд разработчиков микрочипов объявили об объединении усилий в рамках организации AI Platform Alliance с целью ускорения внедрения передовых решений в области ИИ. Инициативу возглавляет Ampere Computing, развивающая экосистему серверных процессоров с архитектурой Arm.

В состав нового альянса вошли ещё около десяти компаний, большая часть из которых появилась относительно недавно: Cerebras Systems, Furiosa, Graphcore, Kalray, Kinara, Luminous, Neuchips, Rebellions и Sapeon. Ожидается, что в ближайшие месяцы список участников расширится.

Источник изображения: AI Platform Alliance

Цель проекта — сделать платформы ИИ более открытыми, эффективными и устойчивыми. Усилия будут сфокусированы прежде всего на разработке передовых аппаратных решений. В частности, речь идёт о специализированных ускорителях, которые позволят решать ИИ-задачи с более высоким быстродействием и при меньшем потреблении энергии по сравнению с GPU.

Ещё одной задачей группы станет оценка комплексных ИИ-платформ, основанных на совместных решениях участников альянса. Это могут быть, например, серверы, сочетающие процессоры Ampere с ускорителями машинного обучения, созданными другими членами AI Platform Alliance.

В долгосрочной перспективе планируется вывести на рынок более эффективные альтернативы современным вычислительным ИИ-системам, основанным на GPU. Предполагается, что это позволит удовлетворить растущий спрос на HPC-мощности для реализации ресурсоёмких проектов в ИИ-сфере.

Компания Giga Computing, подразделение корпоративных продуктов Gigabyte Technology, анонсировала серверы семейства R-Series, оснащённые процессорами AmpereOne с архитектурой Arm (до 192 ядер Arm с частотой до 3,0 ГГц, 8 каналов DDR5, 128 линий PCIe 5.0, TDP до 400 Вт).

Дебютировали четыре сервера: R163-P32 и R183-P92 в форм-факторе 1U, а также R263-P33 и R283-P93 типоразмера 2U. Все они поддерживают работу с ОС RHEL 9.0, Fedora 36, Oracle 9.0, Ubuntu 22.04 и Debian 11.

Источник изображений: Giga Computing

Модель R163-P32 рассчитана на установку одного чипа AmpereOne в исполнении LGA 5964. Есть 16 слотов для модулей оперативной памяти DDR5-4800 ёмкостью до 512 Гбайт каждый, 12 отсеков для SFF-накопителей NVMe/SATA/SAS, коннектор M.2 (PCIe 5.0 x4), два разъёма PCIe 5.0 x16 для карт FHHL, слот OCP 3.0 (PCIe 5.0 x16), сетевой контроллер 1GbE (Intel I210-AT) и выделенный сетевой порт управления 1GbE. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Platinum.

Версия R183-P92, в свою очередь, поддерживает два процессора AmpereOne. Этот сервер располагает 32 слотами для модулей DDR5-4800, двумя слотами OCP 3.0 (PCIe 5.0 x16) и двумя сетевыми портами 1GbE на базе Intel I350-AM2. Применены два блока питания на 2000 Вт с сертификатом 80 Plus Platinum. Прочие характеристики унаследованы у предыдущей версии.

Решение R263-P33 под один чип AmpereOne снабжено 16 слотами для модулей оперативной памяти DDR5-4800, четырьмя отсеками для SFF/LFF-накопителей NVMe/SATA/SAS, восемью отсеками для SFF/LFF-устройств SATA/SAS, коннектором M.2 (PCIe 5.0 x4), тремя разъёмами PCIe 5.0 x16 для карт FHHL, одним слотом PCIe 5.0 x8, двумя слотами OCP 3.0 (PCIe 5.0 x16), сетевым контроллером 1GbE (Intel I210-AT) и выделенным сетевым портом управления 1GbE. Установлены два блока мощностью 2400 Вт с сертификатом 80 Plus Platinum.

Сервер R283-P93 позволяет задействовать два процессора AmpereOne и 32 модуля DDR5-4800. Есть четыре слота PCIe 5.0 x16 для карт FHHL и два слота PCIe 5.0 x16 для карт LP, а также два порта 1GbE на базе Intel I350-AM2. Мощность каждого из двух блоков питания с сертификатом 80 Plus Platinum — 2700 Вт. Другие характеристики аналогичны модели R263-P33.

Телеком-гигант Vodafone поддерживает многочисленные проекты в рамках парадигмы OpenRAN, в том числе сотрудничая с лидерами полупроводниковой индустрии. Как сообщает The Register, компания подтвердила сотрудничество с Arm в разработке энергоэффективных чипов для базовых станций 5G. Попутно она взаимодействует и с Intel

OpenRAN — концепция, предполагающая строительство мобильной инфраструктуры с использованием элементов, выпускаемых различными производителями. В Vodafone рассчитывают ускорить развитие своей платформы OpenRAN, используя Arm-архитектуру. Предполагается, что это позволит удовлетворить растущий пользовательский спрос на быстрые и «зелёные» мобильные решения.

В компании сообщили, что уже работают с производителем Arm-процессоров Ampere Computing и компанией SynaXG, специалистом по выпуску сетевых решений, для тестирования и оценки решений на Arm-архритектуре. Тестирование должно начаться ещё до конца этого года, после чего начнётся интеграция с коммерческим ПО OpenRAN от Fujitsu для последующих испытаний на площадках Vodafone в Испании и Великобритании в I квартале 2024 года. В Vodafone сообщают и о вероятной проверке совместимости с оборудованием других вендоров.

Источник изображения: Steven Van Elk/unsplash.com

Ожидается, что это позволит расширить полупроводниковую и программную экосистему OpenRAN-решений, а расширение числа лучших в своём классе поставщиков, конкурирующих на одном поле, приведёт к ускорению инноваций, повышению энергоэффективности и безопасности на благо пользователей. Впрочем, одним из основных мотивов внедрения OpenRAN всё ещё является экономия средств.

Сообщается, что компания уже работает с Intel над похожими разработками. По некоторым данным, ведутся работы над архитектурой специализированного чипсета в лабораториях Vodafone в Испании, а Intel должна создать образцы чипов для начала тестов мобильным оператором. Более того, плоды работ над Arm-решениями хотят сделать достоянием всей мобильной индустрии. В Vodafone утверждают, что это обеспечит мелкие компании необходимой поддержкой, чтобы те тоже смогли внести свой вклад в Open RAN-проекты.

Также на этой неделе Vodafone объявила о дополнительных планах запуска коммерческого пилотного OpenRAN-проекта уровня 5G при участии Nokia. Проект будет реализован на севере Италии и предусматривает использование контейнеризованного ПО Nokia на платформе Red Hat OpenShift. Оно будет применяться с оборудованием, включающим серверы Dell PowerEdge XR8000, а также сетевые ускорители Nokia, разработанные совместно с Marvell.

Oracle представила инстансы Ampere A2 следующего поколения на базе 192-ядерных Arm-процессоро AmpereOne, которые станут доступны для клиентов компании позднее в этом году. Как сообщает Oracle, новые инстансы обеспечивают на 44 % лучшее соотношение цены и производительности по сравнению с предложениями на архитектуре x86 и идеально подходят для ИИ-инференса, работы с базами данных, веб-сервисами, рабочих нагрузок транскодирования мультимедиа и поддержки среды выполнения для таких языков, как GO и Java.

Инстансы OCI Ampere A2 предлагают до 320 ядер в случае bare metal и до 156 ядер в рамках одной виртуальной машины. Обладая большим объёмом приватного кеша, стабильной рабочей частотой, однопоточными ядрами и новыми функциями управления памятью, инстансы нового поколения позволяют обеспечить ещё более предсказуемую производительность за счёт снижения влияния внешних помех, как происходит в случае SMT, и одновременно предлагают безопасную микроархитектуру для многопользовательских облачных сред.

Источник изображений: Ampere

«То, что происходит с OCI и Ampere, является отражением значительных перемен, происходящих в нашей отрасли, — сказала гендиректор Ampere Рене Джеймс (Renee James). — Времена использования мощности в качестве показателя производительности переходят в эру высокопроизводительных вычислений с низким энергопотреблением. Такие клиенты, как 8X8 и другие, признают, что существует необходимость снизить затраты на инфраструктуру и в то же время сократить выбросы углекислого газа без ущерба для производительности. В нашу эру компьютеров с ИИ новая сила — это меньшая мощность».

Клэй Магоуирк (Clay Magouyrk), исполнительный вице-президент Oracle Cloud Infrastructure Development, сообщил, что в связи с быстрым ростом Oracle подошла к пределам доступной мощности, и для дальнейшего масштабирования облака ей необходим рост эффективности в дополнение к производительности: «Вот почему мы используем Ampere для всего: от базы данных Oracle до приложений Fusion, а теперь и для всех наших сервисов OCI. С развитием ИИ-обработки этот сдвиг в вычислениях стал ещё более важным. Ampere — это решение OCI для устойчивого облака».

СУБД Oracle Database полностью поддерживается процессорами Ampere. Кроме того, все сервисы OCI, число которых исчисляется сотнями, теперь тоже работают на CPU Ampere. Конечные клиенты могут перенести все свои рабочие нагрузки на платформу Ampere, в том числе задачи инференса, которые поддерживаются библиотеками AI Optimizer от Ampere.

Google Cloud объявила о запуске первых инстансов на процессорах AmpereOne компании Ampere. Эти Arm-чипы насчитывают от 136 до 192 вычислительных ядер, каждое из которых способно обрабатывать один поток инструкций. Анонсированные инстансы получили обозначение C3A. Они доступны в конфигурациях с количеством vCPU от 1 до 80. Задействованы память DDR5 и локальные SSD неназванной ёмкости. Заявленная пропускная способность сетевого подключения — до 100 Гбит/с.

Инстансы C3A уже интегрированы с рядом сервисов Google Cloud, включая GKE, Dataflow, Cloud Batch и Dataproc, так что разработчики приложений смогут использовать новые виртуальные машины с привычными инструментами. Отмечается, что Arm-инстансы обеспечивают улучшение соотношения цена/производительность на 40 % по сравнению с сопоставимыми по классу виртуальными машинами текущего поколения на процессорах с архитектурой x86.

Источник изображения: Ampere

Немногим более года назад платформа Google Cloud запустила инстансы T2A Tau на чипах Ampere Altra. Появление решений C3A является значимым событием для компании Ampere. Участники рынка полагают, что в обозримом будущем примеру Google последуют другие ведущие облачные провайдеры, включая Oracle Cloud Infrastructure и Microsoft Azure.

Источник: Ampere

На текущий момент доступ к инстансам C3A предоставляется в рамках закрытой программы предварительной оценки. О сроках запуска общедоступных версий ничего не сообщается, так что хотя Google формально является первым облачным провайдером, предложившим инстансы с AmpereOne, другие игроки, особенно второго эшелона, могут обогнать компанию и первыми предоставить в общий доступ свои Arm-инстансы.

Компания Supermicro представила серверы семейства MegaDC для облачных вычислений, ИИ-платформ, хранения данных, решения задач на периферии и сетей 5G. В основу систем положены Arm-процессоры AmpereOne, которые предлагают до 192 ядер.

В серию, в частности, вошла модель MegaDC ARS-111M-NR типоразмера 1U с процессором AmpereOne (до 3,0 ГГц; 250 Вт) с воздушным охлаждением. Она оснащена 12 фронтальными отсеками для SFF-накопителей U.2 NVMe, 16 слотами для модулей оперативной памяти DDR5-4800 RDIMM/LRDIMM (в сумме до 4 Тбайт), двумя сетевыми портами 25GbE SFP28, тремя слотами PCIe 5.0 x16 (LP), одним слотом PCIe 5.0 x16 AIOM и двумя блоками питания мощностью 860 Вт (80+ Titanium).

Источник изображений: Supermicro

Ещё одна новинка — сервер MegaDC ARS-211M-NR, выполненный в формате 2U. Он также комплектуется чипом AmpereOne и имеет 16 слотов для модулей DDR5-4800 RDIMM/LRDIMM. При этом доступны четыре слота PCIe 5.0 x16 для ускорителей двойной ширины, по одному слоту PCIe 5.0 x16 LP и AIOM (OCP 3.0 Mezzanine). Могут быть установлены четыре SFF-накопителя U.2 NVMe. Доступны два сетевых порта 25GbE SFP28.

На телекоммуникационную сферу ориентирован сервер MegaDC ARS-211ME-FNR типоразмера 2U. Его оснащение аналогично предыдущей модели. Отличия заключаются в возможности монтажа шести фронтальных SFF-устройств U.2 NVMe, а также в наборе слотов: 1 ×  PCIe 5.0 x16 FPFL двойной ширины (или 1 × PCIe 5.0 x16 FPFL одинарной ширины и 1 × PCIe 5.0 x8 FPFL одинарной ширины), 1 × PCIe 5.0 x16 FPHL, 1 × PCIe 5.0 x8 FPHL, 1 × PCIe 5.0 x16 LP и 1 × AIOM Slot (OCP 3.0 Mezzanine). 

В 2023 году Oracle планирует потратить значительные средства на приобретение чипов AMD и Ampere Computing для новой инфраструктуры, отметив, что «старая архитектура Intel x86 достигает своего предела».

«В этом году Oracle купит GPU и CPU у трёх компаний, — сообщил на прошедшем в среду мероприятии глава Oracle Ларри Эллисон (Larry Ellison). — Мы будем покупать GPU у NVIDIA, мы покупаем у неё на миллиарды долларов США. И потратим в три раза больше на центральные процессоры от Ampere и AMD. Мы по-прежнему тратим больше денег на традиционные чипы».

Oracle сообщила, что впервые за 14 лет существования специализированных ПАК Exadata для СУБД она полностью отказалась от процессоров Intel в пользу чипов AMD. В платформе 12-го поколения Exadata X10M в рамках двух предложений Oracle Exadata Machine и управляемого решения Oracle Exadata Cloud@Customer будут использоваться AMD EPYC Genoa. Одной из причин такого перехода, пусть и далеко не самой важной, считается отказ Intel от Optane.

Источник изображения: Oracle

С момента запуска Exadata в 2008 году Oracle полагалась на процессоры Intel Xeon. Но ситуация начала меняться c выходом X9M в 2021 году. Для Oracle Exadata Machine и Oracle Exadata Cloud@Customer компания выбрала чипы Intel Xeon Ice Lake-SP, а в начале 2022 года для облачного решения Oracle Exadata Cloud Infrastructure решила использовать чипы AMD. При этом EPYC Milan использовались в серверах для обеспечения работы баз данных, а Ice Lake-SP — для СХД.

Кроме того, на днях Oracle сделала важный шаг — перенесла свою флагманскую СУБД Oracle Database на архитектуру Arm, т.е. на процессоры компании Ampere Computing, в которую в своё время инвестировала. Эллисон отметил, что чипы Ampere Altra намного энергоэффективнее решений AMD и NVIDIA, что поможет ЦОД Oracle соответствовать будущим регуляциям. «Мы перешли на новую архитектуру и к новому поставщику, — сообщил Эллисон. — Мы думаем, что это будущее. Старая архитектура Intel x86 после многих десятилетий на рынке подошла к своему пределу».

Источник изображения: Oracle

Тем не менее, эксперты полагают, что ставка Oracle на архитектуру Arm не помешает её отношениям с AMD в ближайшее время, тем более что Intel и AMD планируют бороться с Arm-процессорами с помощью оптимизированных для облачных платформ чипов с высокой плотностью ядер и улучшенной энергоэффективностью: EPYC Bergamo и Xeon Sierra Forest. Кроме того, разработка, перенос и рефакторинг ПО для Arm требует времени и средств.

В свою очередь, представитель Intel сообщил ресурсу CRN в четверг, что компания поставляет Oracle процессоры Xeon Sapphire Rapids «в течение многих месяцев и планирует продолжать поставки Xeon текущего и следующего поколения в будущем». Компании связывают долгие годы совместной работы над аппаратными и программными решениями для клиентов, а сейчас Intel поставляет чипы для облачной инфраструктуры Oracle OCI.

Oracle объявила, что Oracle Database 19c Enterprise Edition, текущий долгосрочный выпуск фирменной СУБД, сертифицирован и доступен для использования на архитектуре Arm. Клиенты могут оформить подписку на сервис Oracle Database Service в Oracle Cloud Infrastructure (OCI) с использованием инстансов Ampere A1 с Arm-процессорами Ampere Altra или запускать СУБД на локальных серверах на базе таких же CPU.

Как сообщает компания, оба варианта обеспечивают значительную экономию клиентам, разрабатывающим всё более сложные приложения, которые используют всё больше данных, ИИ, машинное обучение, JSON-документы и которые требуют большей интерактивности и производительности баз данных (БД). Oracle отметила, что клиенты теперь смогут запускать свои рабочие нагрузки с предсказуемой производительностью при меньших затратах, используя Ampere Altra.

Источник изображения: Oracle

«Благодаря процессорам семейства Ampere Altra клиенты самой популярной в мире базы данных — Oracle Database — теперь имеют высокопроизводительную, энергоэффективную архитектуру, построенную с учётом устойчивого развития организаций любого размера», — отметил Джефф Виттич (Jeff Wittich), директор по продуктам Ampere. Напомним, что Oracle была одним из первых крупных инвесторов Ampere и первой же предложила инстансы на базе Altra.

По словам создателей, Oracle Database значительно упрощает разработку приложений, интеграцию данных и управление БД и позволяет использовать единую СУБД корпоративного уровня, которую можно развернуть где угодно, а не использовать отдельные БД для каждого типа данных и рабочих нагрузок. Полная совместимость баз данных Oracle, развёрнутых в облаке и локально, позволяет обойтись разработкой одного приложения для всех случаев. Правда, для Arm-версии (aarch64) Oracle Database 19c пока доступен не весь сопутствующий инструментарий.

Oracle Database Service теперь опирается не только на инстансы AMD E4 или Intel X9, но и на Ampere A1: от 1 до 57 OCPU, 8 Гбайт RAM на OCPU (суммарно до 456 Гбайт), 1 Гбит/с на OCPU (не более 40 Гбит/с, неблокирующая сетевая инфраструктура). Компания предлагает нескольких вариантов лицензирования Oracle Database Service, включая Enterprise Edition, High Performance и Extreme Performance. Кроме того, можно начать работу с бесплатного варианта в рамках программы Oracle Arm Accelerator, которая на год даёт предоплаченный доступ к ряду сервисов OCI.

Oracle отметила, что Oracle Database 19c обходится вдвое дешевле при работе на процессорах Ampere Altra из-за низкого показателя Oracle Processor Core Factor. Как сообщается, перенос баз данных на Arm происходит быстро и просто: базы данных Oracle, работающие на существующих платформах, могут использовать Oracle Recovery Manager (RMAN) для резервного копирования баз данных на существующей платформе и переноса на платформу Arm.

Компания ASRock Rack анонсировала материнскую плату ALTRAD8U-1L2T, допускающую установку Arm-процессоров Ampere Altra Max, которые могут насчитывать до 128 вычислительных ядер. Новинка предназначена для построения компактных серверов и рабочих станций

ALTRAD8U-1L2T имеет размеры 244 × 267 мм, что очень близко к формату mATX — 244 × 244 мм. Применён сокет LGA 4926, рядом с которым расположены восемь разъёмов для модулей оперативной памяти DDR4-3200 суммарным объёмом до 2 Тбайт. Предусмотрены два коннектора для SSD формата M.2 2280 с интерфейсом PCIe 4.0 x4.

Материнская плата располагает четырьмя слотами PCIe 4.0 x16, четырьмя коннекторами SlimSAS (PCIe 4.0 x8) и двумя разъёмами OCuLink (PCIe 4.0 x4). В оснащение входят BMC ASPEED AST2500, два сетевых порта 10GbE (контроллер Intel X550) и один порт 1GbE (Intel i210), выделенный сетевой порт управления на базе Realtek RTL8211F, четыре порта USB 3.2 Gen1, аналоговый интерфейс D-Sub. Через коннекторы на плате можно задействовать дополнительные порты USB и последовательный порт.