Идея «умных» накопителей не нова и довольно очевидна — накопители можно дополнить чипами, которые могут взять на себя первичную обработку данных непосредственно на месте их хранения, например, обслуживая рутинные операции с базами данных или (де-)компрессию на лету и без загрузки CPU хост-системы.

Samsung Electronics экспериментирует с данной технологией давно: компания демонстрировала прототипы «вычислительных SSD» ещё на SC18, а в 2020 году уже представила коммерческие накопители SmartSSD, оснащённые мощной ПЛИС Xilinx Kintex, дополненной 4 Гбайт оперативной памяти. Но пришло время двигаться дальше и сегодня компания анонсировала новое поколение накопителей.

Источник: Samsung Electronics

Во втором поколении SmartSSD компания-разработчик сменила FPGA Kintex на более универсальную и производительную платформу Versal. Сама AMD Xilinx называет эти чипы «адаптивной платформой ускорения вычислений», поскольку в них имеются блоки практически на любой случай, от классической ПЛИС до ядер Arm Cortex-A и R, а также DSP и криптодвижки.

Источник: Samsung Electronics

По словам Samsung, новые накопители обрабатывают «тяжёлые» запросы к БД на 50 % быстрее традиционных серверных SSD, при этом они на 70 % экономичнее, а выигрыш по нагрузке на CPU сервера составляет и вовсе 97 %, поскольку основную работу берёт на себя Versal. Главной областью применения SmartSSD нового поколения Samsung видит рынок машинного обучения и сетей пятого и шестого поколений, как требующий активной обработки больших объёмов данных.

Компания Samsung Electronics сообщила о создании DDR5-модуля Compute Express Link (CXL) вместимостью 512 Гбайт — это первое в отрасли решение столь высокой ёмкости, имеющее интерфейс PCIe 5.0 и выполненное в форм-факторе E3.S. Модуль даёт возможность значительно повысить объём памяти серверных систем и увеличить её пропускную способность.

Это, в свою очередь, позволяет ускорить выполнение задач, связанных с искусственным интеллектом (ИИ) и высокопроизводительными вычислениями (HPC) в центрах обработки данных. На текущий момент Samsung уже подписала с Lenovo соглашение о развитии CXL-решений. Ожидается, что тестирование новых модулей памяти начнётся в III квартале этого года, а массовыми они станут после появления на рынке новых платформ AMD EPYC Genoa и Intel Xeon Sapphire Rapids.

Источник изображений: Samsung

«Распространение ИИ и Big Data приводит к росту использования гетерогенных вычислений, при которых несколько процессоров работают параллельно для обработки больших объёмов данных. Открытый, обладающий широкой отраслевой поддержкой протокол CXL, основанный на интерфейсе PCI Express (PCIe) 5.0, обеспечивает высокоскоростную передачу с малой задержкой между хост-процессором и такими устройствами, как серверные ускорители, буферы памяти и интеллектуальные устройства ввода-вывода», — заявляет Samsung.

Свой первый CXL-модуль памяти Samsung представила год назад. Чуть позже появилась и платформа для разработки. В конце прошлого года компания показала первую гибридную СХД Poseidon V2 с поддержкой CXL, которая позволяет объединить в одной платформе (Smart)SSD, DRAM и ускорители, а буквально на днях было продемонстрировано совместное с Liqid и Tanzanite решение для работы с пулами CXL-памяти.

За развитием CXL мы следим давно, поскольку эта технология служит фундаментом для компонуемой инфраструктуры, где все ресурсы физически разнесены и могут быть объединены в нужную конфигурацию по запросу. Внедрение CXL 2.0 позволит организовывать и отдельные пулы DRAM или быстрой энергонезависимой памяти вроде Optane.

Демонстрационная платформа Tanzanite (Изображения: Business Wire)

Первый вариант пулов памяти CXL совместно представили Liqid, Samsung и Tanzanite. У Liqid есть PCIe-платформа и ПО для управления дезагрегированными ресурсами, Samsung уже представила первую CXL-память DDR5, а Tanzanite занята разработкой CXL-фабрики на базе чипсета собственной разработки SLIC^TZ. Liquid недавно получила новые инвестиции от DigitalBridge Ventures и Blackwells Capital, что говорит о заинтересованности крупных инвесторов в развитии идей дезагрегации и композитных вычислительных сред.

Но самое интересное в совместном решении компаний — чип SLIC^TZ. Он может работать в качестве коммутатора CXL и предоставляет все нужные для организации выделенных пулов CXL-памяти технологии, включая поддержку энергонезависимых модулей и разбиение пула на уровни (tiering). Текущая реализация SLIC^TZ базируется на флагманских ПЛИС Intel Agilex, но это всего лишь прототип, так что компания со временем наверняка выпустит и ASIC.

Пул композитной памяти Tanzanite

Тем не менее, даже первое поколение SLIC^TZ способно управлять пулом памяти объёмом 80 Тбайт, предоставляя каждому подключённому хосту пропускную спосоность, эквивалентную 32 каналам DDR4 или 16 каналам DDR5. Более того, по словам создателей, задержка доступа будет даже меньше, чем у типичного двухсокетного сервера.

Сама Tanzanite планирует наделить SLI^TZ достаточно высокой производительностью для поддержки концепции «вычисления рядом с памятью» (Near Memory Compute), что позволит организовать первичную обработку данных и разгрузить, тем самым, хост-процессоры. Не является ли это отходом от базовых принципов дезагрегации, покажет время.

Стартап Esperanto Technologies сообщил о том, что сразу несколько крупных IT-игроков тестируют её уникальный ИИ-ускоритель ET-SoC-1. В их число, в частности, входит Samsung SDS, подразделение южнокорейского гиганта, специализирующееся на IT-решениях и услугах. В конце прошлого года Samsung уже представила концепт SmartSSD, который как раз задействует ET-SoC-1 для «умной» обработки данных непосредственно на накопителе.

Чип Esperanto ET-SoC-1 использует архитектуру RISC-V. Он содержит 1088 энергоэффективных ядер ET-Minion и четыре высокопроизводительных ядра ET-Maxion. Подробно об особенностях новинки можно узнать в нашем материале. Чип предназначен для решения сложных задач, связанных с ИИ и машинным обучением. Утверждается, что изделие обеспечивает более высокую энергетическую эффективность, нежели другие специализированные решения.

Esperanto прямо не говорит, кто ещё, помимо Samsung SDS, тестирует решение. Отмечается лишь, что это «ведущие заказчики». Между тем Патрик Бангерт, вице-президент по ИИ-решениям в Samsung SDS, говорит, что его команда впечатлена результатами первых тестов ET-SoC-1: «Чип был быстрым, производительным и в целом простым в использовании. Кроме того, изделие продемонстрировало почти линейное масштабирование производительности в различных конфигурациях вычислительных ИИ-кластеров»

Изображение: Samsung

Аналитики Cambrian-AI Research также высоко оценили работу новинки в Resnet50, DLRM и BERT, отметив, что уровень энергопотребления укладывался в 20 Вт при максимальной рабочей частоте чипа. Отмечена и хорошая программная поддержка, которая позволит не только охватить будущие ИИ-нагрузки, но и потенциально позволит использовать ET-SoC-1 для других массивно-параллельных задач. Поскольку чип ориентирован на гиперскейлеров, качество ПО зачастую выходит на первый план.

Дочернее предприятие южнокорейского концерна BKT, компания Tomorrow Water, занимающаяся преимущественно очисткой сточных вод, объединит усилия с Samsung для строительства дата-центров, комбинированных с канализационной и очистной инфраструктурой.

Основной идеей стало размещение ЦОД на территории водоочистительных сооружений — получаемое здесь биотопливо может применяться для питания информационной инфраструктуры, а дата-центр, в свою очередь, может делиться избыточным теплом для подогрева биореакторов. По расчётам Tomorrow Water, созданные под брендом Co-Flow объединения позволят использовать все преимущества инфраструктур очистительных сооружений и ЦОД.

Известно, что компания уже заключила соглашение c американской Arcadis, которая займётся оценкой и разработкой первых проектов Co-Flow в США. Пока же Tomorrow Water, Samsung, а также Dohwa Engineering и BNZ Partners будут совместно разрабатывать архитектуру, способную объединить несколько инфраструктур на территории Южной Кореи.

Источник изображения: Tomorrow Water

Разработанная Tomorrow Water система биофильтрации воды Proteus позволит заменить ёмкости-отстойники в очистительных сооружениях. Например, с 2018 года при реализации флагманского проекта Jungnang Water Recycling Center площади очиститных систем удалось снизить на 60 %, а на освободившейся земле, в частности, был разбит парк. Данные о проекте объединения очистных сооружений и ЦОД появились ещё в мае прошлого года.

Сотрудничество с ЦОД позволит максимально снизить и уровень выбросов — благодаря системе фильтрации ёмкости с водой можно размещать под землёй, а дата-центр — на поверхности. Это весьма важно для желающих построить ЦОД, поскольку такие проекты обычно необходимо реализовать недалеко от городской инфраструктуры с коммуникациями. Земля в таких районах обычно довольна дорога и часто уже занята.

Согласно данным аналитических компаний TrendFocus и Wells Fargo, в III квартале 2021 года Samsung значительно обогнала других производителей по суммарной ёмкости отгруженных SSD корпоративного класса, заняв половину рынка. Два года назад, в III квартале 2019 года, на долю Intel и Samsung приходилось около 35 % ёмкости таких SSD, а в отчётном квартале доля Samsung выросла до 53,6 %, тогда как у Intel она сократилась до 15,2 %.

Пандемия COVID-19 вызвала резкое снижение темпов прироста в годовом исчислении с I квартала 2020 года по II квартал 2021 года, но рост поставок не останавливался, за исключением нулевого движения, зарегистрированного в начале 2019 года.

Western Digital и Kioxia совместно владеют долей 14,4 %, занимая третье место на рынке. SK Hynix с долей 8,6 % занимает пятое место, но поскольку она прибрела у Intel производство NAND SSD, на базе которого сформировала подразделение Solidigm, совокупная доля SK Hynix и Solidigm в поставках равна уже 23,8 %. То есть SK Hynix теперь находится на втором месте, а у WD/Kioxia — третья позиция. За ними следует Micron с долей рынка 5,6 %.

На диаграмме, отражающей долю поставщиков корпоративных NVMe SSD, видно, что изначально на рынке лидировала Intel, которая уступила первенство сначала Western Digital, а затем и Samsung. Причём сокращение доли WD было ещё более резким, чем у Intel. SK Hynix с Kioxia входят в категорию «Другие», а доля Micron отражает тот факт, что она никогда не была ведущим игроком на этом рынке.

Первый в мире «большой» ИИ-ускоритель на базе архитектуры RISC-V от молодой компании Esperanto, созданной ветераном индустрии Дэвидом Дитцелем (Dave Ditzel), который стоял у истоков легендарной Transmeta, может найти своё место в новых «умных» SSD Samsung. Корейский гигант раскрыл сведения о прототипе такого накопителя в рамках мероприятия SAFE, прошедшем осенью этого года.

Ускоритель Esperanto ET-SoC-1 изначально создавался с прицелом на энергоэффективные инференс-платформы для различных систем рекомендаций, и помимо 1088 ядер (ET-Minion), получил весьма объёмную подсистему SRAM (более 160 Мбайт) и восьмиканальный контроллер LPDDR4. Создатели ET-SoC-1 получили первые партии чипов, выпущенные с использованием 7-нм техпроцесса, и в настоящее время активно работают над различными сценариями использования своего детища.

Изображения: Samsung/Esperanto

Но не только они — на ET-SoC-1 обратила внимание компания Samsung. Такие системы сейчас используются повсюду, от стриминговых платформ до крупных магазинов и социальных сетей, поэтому рынок огромен, а преимущество на нём получат те, чьи движки рекомендаций работают быстрее и точнее. Они настолько прочно вошли в нашу жизнь, что по некоторым оценкам, у таких гигантов, как Google, Facebook✴ или Amazon, до 80% всех ИИ-нагрузок приходится именно на рекомендательные системы.

SSD с чипом Esperanto на борту (справа) упрощает работу рекомендационных систем и освобождает системные ресурсы

Увы, движки подобного рода оперируют с массивами информации объёмами в десятки гигабайт, но чтобы использовать их, системе надо сперва затребовать соответствующие данные с накопителей. В то же время от таких движков требуются практически мгновенные ответы на поступающие запросы, а сами массивы требуют регулярного обновления.

Но ET-SoC-1, по мнению Esperanto и Samsung, позволит перенести этот процесс ближе к накопителям — чип может быть непосредственно интегрирован в SSD и считывать массивы данных непосредственно из NAND-памяти. В концепции такого SmartSSD Samsung центральные процессоры серверов занимаются только диспетчеризацией пользовательских запросов, а вся работа с массивами, сопоставлением данных и выработкой решения ложится на плечи ET-SoC-1.

Первые результаты тестов, опубликованные Samsung

Такой подход разгружает не только процессоры, но и освобождает ресурсы PCIe-шины. Предварительные тесты показывают, что выигрыш в используемой пропускной способности между SSD и CPU может достигать от 10 до 100 раз, и это при том, что в прототипе задействуется лишь небольшая часть из 1088 ядер ET-SoC-1 — от 32 до 128. Но архитектура у творения Esperanto модульная, и ничто не мешает серийным «рекомендательным SSD» использовать более просты чипы с меньшим числом блоков ET-Minion.

Samsung Electronics анонсировала серверный NVMe SSD PM1743 с интерфейсом PCIe 5.0, фирменным контроллером и 128-слойной флеш-памятью TLC V-NAND шестого поколения. Ожидается, что новый накопитель и уже имеющийся в разработке вариант с PCIe 6.0 позволят укрепить технологическое лидерство компании на серверном рынке. Образцы PM1743 уже отправляются производителям чипсетов и серверов.

Samsung тестировала новинку совместно с Intel, чтобы решить проблемы, возникшие во время начальной оценки работы новой технологии. Обе компании уверены, что системы с PCIe 5.0 помогут трансформировать сферы ИИ, машинного обучения и высокопроизводительных баз данных, поскольку новый стандарт вдвое быстрее PCIe 4.0. Компания планирует начать массовое производство новинки в I квартале 2022 года.

Изображения: Samsung

Скорость последовательных чтения у PM1743 составляет до 13 Гбайт/с, а производительность на случайных операциях — 2,5 млн IOPS, т.е. в 1,9 и 1,7 раз быстрее, чем продукты с PCIe 4.0 соответственно. Выросла и скорость записи — до 6,6 Гбайт/с и 250 тыс. IOPS, т.е. прирост составил 1,7 и 1,9 раз. Samsung также отметила, что PM1743 на 30% экономичнее в сравнении с моделями предыдущего поколения, и достигает показателя 608 Мбайт/с на Ватт.

PM1743 будет доступен как в традиционном 2,5" варианте, так и в форм-факторе EDSFF E3.S. Будут доступны модели ёмкостью от 1,92 до 15,36 Тбайт. Компания также ожидает, что новый SSD станет первой в отрасли двухпортовой моделью с PCIe 5.0. Он также получит встроенный процессор безопасности и аппаратный Root of Trust (RoT).