Финская Nokia и научно-образовательное IT-объединение SURF из Нидерландов успешно добились скорости передачи данных 800 Гбит/с на существующей трансграничной оптоволоконной сетевой инфраструктуре SURF. По информации Nokia, новых скоростей удалось добиться благодаря применению платформы Photonic Service Engine (PSE-6s).

Ожидается, что внедрение нового решения поможет обмениваться большими массивами данных между Большим адронным коллайдером (БАК), исследовательскими мощностями NL Tier-1 (NL T1) группы SURF и нидерландским институтом NIKHEF, занимающимся атомной энергетикой и смежными проектами. Отмечается, что повысить скорость удалось на старых ВОЛС.

Испытание провели на линии протяжённостью 1648 км между Амстердамом и Женевой, которая пересекает Бельгию и Францию. Это часть сети SURF, связывающая научно-образовательные институты в Нидерландах и других странах мира, включая собственную оптическую сеть БАК (LHC Optical Private Network, LHCOPN). Последняя обеспечивает доступ к данным БАК в CERN. CERN, NIKHEF, SURF и эксперимент ATLAS объединили усилия для испытаний высокоскоростных соединений, которые понадобятся обновлённому варианту БАК HL-LHC.

Источник изображения: Nokia

SERF уже готовит свои сети к росту нагрузок, поскольку обновлённый коллайдер HL-LHC должен заработать в 2029 году. Ожидается, что такая модернизация позволит сделать ещё больше открытий — но данных придётся обрабатывать намного больше, чем это делается сегодня. В Nokia подчёркивают, что эксперимент демонстрирует важнейшую роль сетей передачи данных в инициативах, способных раскрыть секреты вселенной.

В 2024 году нельзя пожаловаться на отсутствие подходящего интерконнекта, если целью является «сшивка» в единую систему сотен, тысяч или даже десятков тысяч ускорителей. Есть NVIDIA NVLink и InfiniBand. Google использует оптические коммутаторы OCS, AMD вскоре выведет Infinity Fabric на межузловой уровень, да и старый добрый Ethernet отнюдь не собирается сдавать позиций и обретает новую жизнь в виде Ultra Ethernet.

Проблема не в наличии и выборе подходящего интерконнекта, а в резкой потере пропускной способности за пределами упаковки чипа (т.н. Memory Wall). Да, память HBM быстра, но намертво привязана к вычислительным ресурсам, а в итоге, как отметил глава Celestial AI в комментарии изданию The Next Platform, индустрия ИИ использует ускорители NVIDIA в качестве самых дорогих в мире контроллеров памяти.

Celestial AI ещё в прошлом году объявила, что ставит своей целью создание универсального «умного» интерконнекта на основе фотоники, который смог бы использоваться во всех нишах, требующих активного обмена большими потоками данных, от межкристалльной (chip-to-chip) до межузловой (node-to-node). Недавно она получила дополнительный пакет инвестиций объёмом $175 млн.

Источник изображений здесь и далее: Celestial AI

Технология, названная Photonic Fabric, если верить заявлениям Celestial AI, способна в 25 раз увеличить пропускную способность и объёмы доступной памяти при на порядок меньшем энергопотреблении в сравнении с существующими системами соединений. Развивается она в трёх направлениях: чиплеты, интерпозеры и оптический аналог технологии Intel EMIB под названием OMIB.

Наиболее простым способом интеграции своей технологии Celestial AI справедливо считает чиплеты. В настоящее время разработанный компанией модуль обеспечивает пропускную способность за пределами чипа на уровне 14,4 Тбит/с (1,8 Тбайт/с), а по размерам он немного уступает стандартной сборке HBM. Но это лишь первое поколение: во втором поколении Photonic Fabric 56-Гбит/с SerDes-блоки SerDes будут заменены на блоки класса 112 Гбит/с (PAM4).

Пресловутая «Стена Памяти»

Поскольку речь идёт о системах с дезагрегацией ресурсов, проблему быстрого доступа к большому объёму памяти Celestial AI предлагает решить следующим образом: новый чиплет, содержащий помимо интерконнекта две сборки HBM общим объёмом 72 Гбайт, получит также поддержку четырёх DDR5 DIMM суммарным объёмом до 2 Тбайт. С использованием 5-нм техпроцесса такой чиплет сможет легко превратить HBM в быстрый сквозной кеш (write through) для DDR5.

Фактически речь идёт об относительно простом и сравнительно доступном способе превратить любой процессор с чиплетной компоновкой в дезагрегированный аналог Intel Xeon Max или NVIDIA Grace Hopper. При этом латентность при удалённом обращении к памяти не превысит 120 нс, а энергозатраты в данном случае составят на порядок меньшую величину, нежели в случае с NVLink — всего 6,2 пДж/бит против 62,5 пДж/бит у NVIDIA.

Новый чиплет Celestial породнит HBM с DDR5 теснее, нежели это сделала NVIDIA

Таким образом, с использованием новых чиплетных контроллеров памяти становятся реальными системы, где все чипы, от CPU до сетевых процессоров и ускорителей, будут объединены единым фотонным интерконнектом и при этом будут иметь общий пул памяти DDR5 большого объёма с эффективным HBM-кешированием. По словам Celestial AI, она уже сотрудничает с некоторыми гиперскейлерами и с одним «крупным производителем процессоров».

По словам руководителя Celestial AI, образцы чиплетов с поддержкой Photonic Fabric появятся во II половине 2025 года, а массовое внедрение начнется уже в 2027 году. Однако это может оказаться гонкой на выживание: Ayar Labs, другой разработчик фотоники, получившая поддержку со стороны Intel, уже показала прототип процессора с интегрированным фотонным интерконнектом.

А Lightmatter ещё в декабре получила финансирование в объёме $155 млн на разработку фотонного интерпозера Passage и якобы уже сотрудничает с клиентами, заинтересованными в создании суперкомпьютера с 300 тыс. узлов. Нельзя сбрасывать со счетов и Eliyan, предлагающую вообще отказаться от технологии интерпозеров и заменить её на контроллеры физического уровня NuLink.

Компании MediaTek и Ranovus объявили о заключении соглашения о сотрудничестве в области разработки оптического интерконнекта для дата-центров, ориентированных на задачи ИИ и машинного обучения. Речь идёт о создании решения Co-Packaged Optics (CPO) с пропускной способностью 6,4 Тбит/с для ASIC MediaTek следующего поколения. Технология CPO предусматривает интеграцию оптических компонентов и традиционных электронных интегральных схем в одном изделии.

Сообщается, что Ranovus создала модуль Odin CPO 3.0 — первую в отрасли монолитную электронно-фотонную интегральную схему для мультитерабитного оптического интерконнекта. Это решение представляет собой специализированный чип, содержащий трансимпедансные усилители (TIA) класса 100 Гбит/с, драйверы, модуляторы на основе кремниевой фотоники и фотодетекторы. Возможно использование интегрированного лазера или внешнего лазерного источника.

Источник изображения: Ranovus

Утверждается, что использование Odin CPO 3.0 позволяет снизить энергопотребление (4 пДж/бит), занимаемую площадь и стоимость системы на 50 % по сравнению с существующими решениями. Предполагается, что использование Odin CPO 3.0 позволит MediaTek создавать наиболее передовые ASIC-решения для дата-центров с высокими ИИ-нагрузками и интенсивным обменом информацией.

«Совместная работа с MediaTek над созданием этой CPO-платформы открывает новую эру оптического интерконнекта высокой плотности в экосистемах ИИ и Ethernet», — говорит Ходжат Салеми (Hojjat Salemi), директор по развитию бизнеса Ranovus.

Компания Celestial AI, занимающаяся созданием технологий оптического интерконнекта, сообщила о проведении раунда финансирования Series C, в ходе которого привлечено $175 млн. Деньги будут использованы для ускорения разработки и вывода передовых продуктов на коммерческий рынок.

Летом прошлого года Celestial AI объявила о разработке технологии Photonic Fabric. Она ориентирована на ИИ-платформы и системы НРС. Благодаря оптическому интерконнекту нового типа ИИ-чипы могут быть соединены с большим пулом высокопроизводительной памяти HBM3, а в перспективе — и HBM4. Таким образом, решается проблема ограниченного объёма памяти HBM в составе ИИ-ускорителей.

По заявлениям Celestial AI, технология Photonic Fabric обеспечивает повышение пропускной способности и объёма доступной памяти более чем в 25 раз при одновременном снижении задержек и энергопотребления примерно в 10 раз по сравнению с существующими оптическими альтернативами и традиционными медными соединениями. Таким образом, можно масштабировать нагрузки ИИ.

Источник изображения: Celestial AI

В июне 2023 года Celestial AI провела раунд финансирования Series B на сумму в $100 млн. Тогда средства предоставили IAG Capital Partners, Koch Disruptive Technologies (KDT), Temasek Xora Innovation, Samsung Catalyst, Smart Global Holdings (SGH), Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures и Tyche Partners.

Инвестиционная программа Series C проведена под предводительством Фонда инновационных технологий США (USIT) миллиардера Томаса Талла (Thomas Tull), основателя Legendary Entertainment. В программе также приняли участие AMD Ventures, KDT, Temasek, Xora Innovation, IAG Capital Partners, Samsung Catalyst, SGH, Porsche Automobil Holding SE, Engine Ventures, M-Ventures и Tyche Partners.

Молодая компания DustPhotonics, занимающаяся разработкой решений в области кремниевой фотоники, по сообщению ресурса Datacenter Dynamics, провела раунд финансирования Series B, в рамках которого на развитие привлечено $24 млн. Деньги пойдут в том числе на расширение продуктового ассортимента.

DustPhotonics была основана в 2017 году, а её штаб-квартира располагается в Израиле. Изначально она специализировалась на выпуске трансиверов, но в 2021-м закрыла это направление и занялась кремниевой фотоникой. Компания разрабатывает оптические модули для дата-центров и коммерческих заказчиков, которые используют ресурсоёмкие НРС- и ИИ-приложения.

Источник изображения: DustPhotonics

Средства по программе финансирования Series B предоставили как существующие, так и новые инвесторы, включая Sienna Venture Capital, Greenfield Partners, Atreides Management и Exor Ventures. Используя привлечённый капитал, DustPhotonics планирует расширить производство продуктов Carmel-4 и Carmel-8, поддерживающих скорость передачи данных 400 Гбит/с и 800 Гбит/с соответственно, причём вариант Carmel-8-IMC совместим с погружными СЖО. Кроме того, компания ускорит разработку продуктов следующего поколения класса 1,6 Тбит/с.

Таким образом, на сегодняшний день DustPhotonics привлекла в общей сложности $61 млн в ходе трёх раундов финансирования. Причём в 2021 году после инвестиционной программы на сумму в $33 млн компания уволила около 80 сотрудников с целью реорганизации бизнеса. Решения в области кремниевой фотоники проектируют и другие стартапы, включая фирму Ayar Labs, которая была основана в 2015 году. В прошлом году эта компания получила на развитие $25 млн.

Компания Lightmatter, занимающаяся разработкой продуктов на основе кремниевой фотоники, по сообщению ресурса SiliconANGLE, расширила раунд финансирования серии C: на развитие дополнительно привлечено $155 млн. При этом капитализация стартапа превысила $1 млрд.

Lightmatter специализируется на создании фотонных ИИ-ускорителей и иных решений. Компания, в частности, разработала оптический интерконнект Passage, который, как утверждается, обеспечивает до 100 раз более высокую пропускную способность по сравнению с традиционными системами.

Источник изображения: Lightmatter

Стартап предоставляет полный набор аппаратных и программных решений на основе фотоники, которые позволяют повысить производительность и энергоэффективность при выполнении ресурсоёмких вычислительных задач, связанных с ИИ. В арсенале Lightmatter — серверная архитектура Envise, объединяющая стандартные электронные компоненты и элементы на базе фотоники. Компания также предоставляет софт Idiom для взаимодействия со стандартными платформами глубокого обучения.

В мае 2023-го Lightmatter привлекла в рамках серии C $154 млн. Нынешний раунд на $155 млн возглавили GV, венчурное подразделение Alphabet, и Viking Global Investors. В результате, общая сумма привлеченных средств превысила $420 млн, а капитализация стартапа выросла до $1,2 млрд. Lightmatter удвоила численность персонала, доведя её примерно до 150 сотрудников.

Британский разработчик квантовых систем ORCA Computing выбран Познаньским центром суперкомпьютерных и сетевых технологий (PSNC) в Польше в качестве поставщика двух квантовых компьютеров. Эти системы призваны ускорить решение задач в ряде научных и прикладных областей, включая биологию, химию и машинное обучение.

Речь идёт о квантовых фотонных компьютерах ORCA Computing PT-1. Они будут установлены в центре высокопроизводительных вычислений PSNC в Познане в ноябре и декабре нынешнего года и интегрированы в существующую HPC-инфраструктуру. Ситсемы закуплены в рамках проекта EuroHPC-PL.

Квантовые компьютеры PT-1 используют источник одиночных фотонов и программируемые сети светоделителей для реализации квантовой памяти. Результаты вычислений представляют собой сложную статистику, где количество фотонов отражает вероятность распределения. Система может быть интегрирована с классическими HPC-платформами. Доступен специализированный комплект для разработки, который поддерживает гибридные квантово-классические алгоритмы с QPU и GPU.

Источник изображения: ORCA Computing

Технология ORCA Computing предусматривает использование одиночных фотонов в качестве носителя. Это не только позволяет системе естественным образом взаимодействовать с оптическими сетями, но также обеспечивает модульность и гибкость архитектуры с возможностью последующего обновления. Задействована проприетарная технология мультиплексирования для управления синхронизацией, частотой и маршрутизацией одиночных фотонов: данная методика позволяет достигать высокой плотности данных, что даёт возможность осуществлять полномасштабные квантовые вычисления с гораздо меньшим количеством компонентов.

Американская компания Jabil Inc., занимающаяся контрактным проектированием и производством электроники, объявила о покупке у Intel подразделения по производству оптических трансиверов на основе кремниевой фотоники. Для Jabil эта сделка означает расширение присутствия на рынке комплектующих для ЦОД, а для Intel это очередной шаг по оптимизации портфолио путём избавления от непрофильных направлений. Jabil продолжит выпуск нынешних серий подключаемых оптических трансиверов Intel, а также будет заниматься разработкой трансиверов следующих поколений. Сумма сделки не раскрывается.

По словам Мэтта Кроули (Matt Crowley), старшего вице-президента по облачной и корпоративной инфраструктуре Jabil, сделка позволит компании «расширить своё присутствие в цепочке создания стоимости ЦОД». Он добавил, что новое производство поможет Jabil лучше удовлетворять потребности клиентов, включая гиперскейлеров, облака следующего поколения и ЦОД для ИИ. Jabil планирует поставлять компаниям улучшенные оптические сетевые решения, предлагая полные возможности фотоники, включая проектирование компонентов, сборку систем и оптимизированное управление цепочкой поставок.

Изображение: Intel

«Мы рассчитываем на тесное сотрудничество с Jabil, нашими клиентами и поставщиками, чтобы обеспечить плавный переход, поскольку Intel переключает свое внимание на компоненты кремниевой фотоники для существующих рынков и новых приложений», — заявил Сафроаду Йебоа-Аманква (Safroadu Yeboah-Amankwah), старший вице-президент и директор по стратегии Intel.

Под руководством Пэта Гелсингера (Pat Gelsinger) Intel последовательно проводит реструктуризацию. Компания уже продала, закрыла или отделила следующие направления бизнеса: Optane и NAND, производство серверов и NUC, коммутаторы и Pathfinder for RISC-V, IMS Nanofabrication и PSG (FPGA Altera), а также ASIC для майнинга. Стоит отметить, что в области кремниевой фотоники Intel была одним из пионеров и лидером в некоторых сегментах.

Компания Intel раскрыла показатели деятельности в III четверти текущего финансового года, которая была закрыта 30 сентября. Общая выручка сократилась в годовом исчислении примерно на 8 % — с $15,3 млрд до $14,2 млрд. Ухудшение результатов объясняется прежде всего ослаблением продаж в корпоративном сегменте.

Чистая прибыль Intel за трёхмесячный период рухнула на 71 %. Если в III квартале 2022 года компания заработала $1,0 млрд, то теперь — $0,3 млрд. Прибыль в пересчёте на одну ценную бумагу снизилась с $0,25 до $0,07.

Источник изображений: Intel

Выручка подразделения Datacenter and AI Group (DCAI), которое отвечает за решения для ЦОД и платформ ИИ, сократилась год к году на 10 % — с $4,3 млрд до $3,8 млрд. Вместе с тем по данному направлению показана операционная прибыль в размере $71 млн, тогда как годом ранее были зафиксированы операционные убытки на уровне $139 млн.

Группа Network and Edge Group (NEX), специализирующаяся на сетевых продуктах и периферийных вычислениях, также продемонстрировала отрицательную динамику. Здесь денежные поступления рухнули на треть — на 32 %. Выручка по итогам III четверти 2023 финансового года составила около $1,5 млрд, тогда как годом ранее показатель равнялся $2,1 млрд. Операционная прибыль сократилась со $197 млн до $17 млн.

Подразделение Intel Foundry Service, которое специализируется на контрактном производстве чипов, получило $311 млн выручки против $78 млн годом ранее. То есть, рост в данном сегменте составил почти 300 %. При этом группа продолжает нести операционные убытки, которые оказались на уровне $86 млн против $90 млн годом ранее.

С целью улучшения финансового положения Intel реорганизует бизнес. В частности, корпорация продаёт направление оптических модулей. Речь идёт о трансиверах на основе кремниевой фотоники. О предполагаемой стоимости сделки ничего не сообщается.

Intel также сделала прогноз на последнюю четверть текущего финансового года. Компания ожидает получить выручку от $14,6 млрд до $15,6 млрд.

Многопоточность давно никого не удивляет, ведь большинство современных процессоров поддерживают выполнение минимум двух потоков на ядро, а у IBM есть и ядра с восемью потоками. Но на конференции Hot Chips 2023 компания Intel продемонстрировала нечто принципиально новое в этом смысле — 8-ядерный RISC-процессор, способный одновременно выполнять до 528 потоков, да ещё и с интегрированным оптическим интерконнектом.

Новинка во всех отношениях любопытная: 66 аппаратных потоков на ядро, довольно объёмный кеш первого уровня (192 Кбайт совокупно для инструкций и данных), 4 Мбайт сверхбыстрой SRAM, а также интегрированные фотонные модули, обеспечивающие оптический интерконнект между несколькими процессорами в системе.

Источник изображений здесь и далее: Intel via ServeTheHome

Поводом для разработки столь необычного процессора стало участие Intel в программе DARPA HIVE, подразумевающей создание эффективных решений для применения в крупномасштабных системах графовой аналитики петабайтного масштаба. По энергоэффективности в такого рода задачах новый чип продемонстрировал тысячекратное превосходство над традиционными архитектурами.

Уникальный чип произведён с использованием 7-нм техпроцесса TSMC с 15 слоями металлизаци, использует тайловую (чиплетную) компоновку и несёт на борту блоки с интегрированной кремниевой фотоникой Ayar Labs. Состоит новинка из 27,6 млрд транзисторов (1,2 млрд транзисторов на ядро) и имеет площадь 316 мм². В демонстрируемой версии использована упаковка BGA c 3275 контактами.

Архитектура процессорных ядер — RISC с фиксированной длиной команд. При этом сами ядра реализованы довольно необычно, поскольку каждое ядро содержит как многопоточные конвейеры (16 потоков на конвейер), так и быстрые однопоточные, с восьмикратно более высокой производительностью. Имеется кастомный контроллер DDR5, контроллер PCI Express 4.0 x8, а также 32 высокоскоростных AIB-порта.

Последние как раз и реализуются за счёт чиплетов с интегрированной фотоникой. 32 оптических канала на процессор обеспечивают пропускную способность интерконнекта на уровне 1 Тбайт/с, а топология HyperX допускает масштабирование на уровне более 1 млн процессоров. При этом теплопакет одного чипа составляет всего 75 Вт.

Внутренний межъядерный интерконнект использует меш-сеть с топологией 2D и 16 специальных маршрутизаторов, обеспечивающих высокую I/O-производительность за пределами кристалла. Эти маршрутизаторы работают на частоте 1 ГГц при напряжении 0,75В, имеют задержку всего 4 такта при ширине соединения 25 байт и пропускную способность 64 Гбайт/с на соединение.

Помимо самого процессора, Intel разработала и OCP-шасси, несущее на борту 16 таких процессоров, 512 Гбайт DRAM и оптическую сеть с производительностью до 16 Тбайт/с в каждом направлении. Благодаря наличию 32 высокоскоростных оптических каналов, в пределах стойки возможно подключение по схеме каждый-с-каждым, не требующая применения дополнительных коммутаторов.

Intel не только продемонстрировала работоспособность систем на базе новых процессоров, но и опубликовала результаты тестирования оптического интерконнекта между двумя демонстрационными системными платами. Задержка при этом не превышает 5 нс. Логически общение ядер в соседствующих процессорах ничем не отличается от внутрипроцессорного, хотя и имеет несколько более высокие задержки. При этом обеспечивается практически линейное масштабирование.

Также известны электрические характеристики: в 75-Вт пакете больше половины приходится на фотонику, и лишь 21 % — на вычислительные ядра. Ещё 16 % потребляет контроллер памяти, остальное приходится на тактовые генераторы, маршрутизаторы и внутренний интерконнект.

При разработке и создании этого уникального процессора Intel пришлось решить ряд технических проблем, в частности, обеспечить надёжное и точное подключение оптических волокон, в том числе в процессе сборки чипа. Для обеспечения приемлемого выхода годных чипов в новинке применен ряд специально разработанных для этого материалов.