Многопоточность давно никого не удивляет, ведь большинство современных процессоров поддерживают выполнение минимум двух потоков на ядро, а у IBM есть и ядра с восемью потоками. Но на конференции Hot Chips 2023 компания Intel продемонстрировала нечто принципиально новое в этом смысле — 8-ядерный RISC-процессор, способный одновременно выполнять до 528 потоков, да ещё и с интегрированным оптическим интерконнектом.

Новинка во всех отношениях любопытная: 66 аппаратных потоков на ядро, довольно объёмный кеш первого уровня (192 Кбайт совокупно для инструкций и данных), 4 Мбайт сверхбыстрой SRAM, а также интегрированные фотонные модули, обеспечивающие оптический интерконнект между несколькими процессорами в системе.

Источник изображений здесь и далее: Intel via ServeTheHome

Поводом для разработки столь необычного процессора стало участие Intel в программе DARPA HIVE, подразумевающей создание эффективных решений для применения в крупномасштабных системах графовой аналитики петабайтного масштаба. По энергоэффективности в такого рода задачах новый чип продемонстрировал тысячекратное превосходство над традиционными архитектурами.

Уникальный чип произведён с использованием 7-нм техпроцесса TSMC с 15 слоями металлизаци, использует тайловую (чиплетную) компоновку и несёт на борту блоки с интегрированной кремниевой фотоникой Ayar Labs. Состоит новинка из 27,6 млрд транзисторов (1,2 млрд транзисторов на ядро) и имеет площадь 316 мм². В демонстрируемой версии использована упаковка BGA c 3275 контактами.

Архитектура процессорных ядер — RISC с фиксированной длиной команд. При этом сами ядра реализованы довольно необычно, поскольку каждое ядро содержит как многопоточные конвейеры (16 потоков на конвейер), так и быстрые однопоточные, с восьмикратно более высокой производительностью. Имеется кастомный контроллер DDR5, контроллер PCI Express 4.0 x8, а также 32 высокоскоростных AIB-порта.

Последние как раз и реализуются за счёт чиплетов с интегрированной фотоникой. 32 оптических канала на процессор обеспечивают пропускную способность интерконнекта на уровне 1 Тбайт/с, а топология HyperX допускает масштабирование на уровне более 1 млн процессоров. При этом теплопакет одного чипа составляет всего 75 Вт.

Внутренний межъядерный интерконнект использует меш-сеть с топологией 2D и 16 специальных маршрутизаторов, обеспечивающих высокую I/O-производительность за пределами кристалла. Эти маршрутизаторы работают на частоте 1 ГГц при напряжении 0,75В, имеют задержку всего 4 такта при ширине соединения 25 байт и пропускную способность 64 Гбайт/с на соединение.

Помимо самого процессора, Intel разработала и OCP-шасси, несущее на борту 16 таких процессоров, 512 Гбайт DRAM и оптическую сеть с производительностью до 16 Тбайт/с в каждом направлении. Благодаря наличию 32 высокоскоростных оптических каналов, в пределах стойки возможно подключение по схеме каждый-с-каждым, не требующая применения дополнительных коммутаторов.

Intel не только продемонстрировала работоспособность систем на базе новых процессоров, но и опубликовала результаты тестирования оптического интерконнекта между двумя демонстрационными системными платами. Задержка при этом не превышает 5 нс. Логически общение ядер в соседствующих процессорах ничем не отличается от внутрипроцессорного, хотя и имеет несколько более высокие задержки. При этом обеспечивается практически линейное масштабирование.

Также известны электрические характеристики: в 75-Вт пакете больше половины приходится на фотонику, и лишь 21 % — на вычислительные ядра. Ещё 16 % потребляет контроллер памяти, остальное приходится на тактовые генераторы, маршрутизаторы и внутренний интерконнект.

При разработке и создании этого уникального процессора Intel пришлось решить ряд технических проблем, в частности, обеспечить надёжное и точное подключение оптических волокон, в том числе в процессе сборки чипа. Для обеспечения приемлемого выхода годных чипов в новинке применен ряд специально разработанных для этого материалов.

Компания Ayar Labs, специализирующаяся на разработке и внедрении гибридных электронно-оптических технологий, сообщила о расширении раунда финансирования Series C: на развитие и коммерциализацию решений привлечено ещё $25 млн по расширенной программе Series C1.

Инвестиционный раунд возглавила фирма Capital TEN при участии VentureTech Alliance. Кроме того, финансовую поддержку оказали Boardman Bay Capital Management, IAG Capital Partners, NVIDIA и Tyche Partners. В число стратегических инвесторов также входят Applied Ventures, GlobalFoundries, Hewlett Packard Pathfinder, Intel Capital и Lockheed Martin Ventures. Таким образом, общая сумма средств, привлечённых в ходе двух С-раундов, достигла $155 млн.

Источник изображения: Ayar Labs

Запатентованная технология Ayar Labs предусматривает обмен данными между чипами посредством света, а не электрических импульсов. Такой подход позволяет значительно повысить производительность, уменьшить задержки, снизить потребляемую мощность и увеличить расстояние линий передачи информации. Утверждается, что решение открывает новые возможности в плане организации HPC-систем, построения дата-центров, развёртывания ИИ-платформ и облачных сервисов.

Помимо ускорения внедрения и коммерциализации оптических IO-решений, Ayar Labs намерена направить полученные деньги на расширение штата сотрудников. По сравнению с прежними планами количество новых вакансий будет увеличено приблизительно в полтора раза.

Разработки Ayar Labs в сфере кремниевой фотоники заинтересовали американскую военно-промышленную корпорацию Lockheed Martin, объявившую о планах использовать её технологию для оптического ввода-вывода в своих будущих оборонных платформах. Компании сотрудничают с 2020 года, когда Lockheed Martin объявила о «стратегических инвестициях» в стартап с целью дальнейшей разработки чиплета-трансивера TeraPHY.

Lockheed Martin сообщила, что технология Ayar Lab может в конечном итоге найти применение во многих системах Министерства обороны США для захвата, оцифровки, транспортировки и обработки спектральной информации с меньшей задержкой и на более дальние расстояния по сравнению с существующими решениями. Lockheed Martin не стала конкретизировать направления применения этой технологии, лишь отметила возможность её использования для военной разведки и обработки радиосигналов.

Источник: Ayar Labs

Ранее говорилось об использовании оптического интерконнекта в цифровых радиолокационных приложениях для поддержки больших объёмов данных. Тем не менее, военная разведка включает в себя широкий спектр технологий, обычно используемых в оборудовании для наблюдения, таких как дроны, спутники-шпионы и радарные массивы — во все эти области Lockheed Martin инвестирует значительные средства.

Технический директор Lockheed Martin Стив Уокер (Steve Walker) отметил, что для успеха миссий её клиентов требуются инновационные системные архитектуры в сочетании с искусственным интеллектом и методами машинного обучения. «Решение Ayar Labs для оптических интерконнектов обеспечивает необходимую технологию для обработки спектральной информации с большей скоростью и меньшей задержкой для систем следующего поколения», — добавил он.

Ayar Labs — один из пионеров в области разработки и внедрения гибридных электронно-оптических технологий, на её счету создание реального фотонного трансивера TeraPHY. Также компания получила $130 млн инвестиций на развитие коммерческой фотоники.

В список главных инвесторов Ayar входит NVIDIA, и сейчас обе компании заявили о сотрудничестве, целью которого станет разработка систем фотонного интерконнекта. Они должны стать основой для ИИ и HPC-инфраструктуры будущего, как сочетающие в себе высокую пропускную способность, низкую латентность и сверхнизкий уровень энергопотребления. При этом переход подсистем I/O на фотонику позволит использовать более длинные кабели без потери производительности, а значит, упростит и удешевит компоновку ЦОД.

Источник: Ayar Labs

Как отметил ведущий архитектор ЦОД-отдела NVIDIA, Роб Обер (Rob Ober), за прошедшее десятилетие производительность, достигнутая решениями компании в области искусственного интеллекта, возросла в миллион раз, но следующий миллион потребует отказа от медной инфраструктуры, которая уже не сможет справиться с возрастающей сложностью и энергопотреблением таких систем.

Гибридный оптоэлектронный трансивер уже воплощён в кремнии. Источник: Ayar Labs

Предсказывается, что уже к 2023 году сложность моделей машинного обучения достигнет отметки 100 трлн связей, что в 600 раз больше рекордного показателя 2021 года, и эта цифра уже выходит за рамки возможностей современных технологий. Именно для преодоления этого барьера NVIDIA и заключила стратегический альянс с Ayar Labs — её разработки в области фотоники позволят поднять удельную пропускную способность I/O-подсистем в 1000 раз, но уровень энергопотребления при этом, напротив, сократится в 10 раз.

Конкретные сроки в анонсе, опубликованном Ayar Labs, не оговариваются, но промежуточные плоды нового союза, скорее всего, увидят свет в следующем году. Основания для такого оптимизма есть, так как рабочий прототип оптического трансивера на 1024 Тбит/с уже существует в кремнии, хотя и использует не слишком тонкий 45-нм техпроцесс.

Компания Ayar Labs, разработчик оптического чиплета-трансивера TeraPHY, объявила об успешном проведении раунда финансирования серии С, в результате которого было привлечено $130 млн. Полученные средства будут направлены на коммерциализацию её решений в области интегрированной кремниевой фотоники.

Возглавила раунд финансирования Boardman Bay Capital Management. В нём приняли участие Hewlett Packard Enterprise (HPE) и NVIDIA, которые присоединились к существующим стратегическим инвесторам Applied Ventures LLC, GlobalFoundries, Intel Capital и Lockheed Martin Ventures. HPE ранее уже объявила, что заинтересована в использовании решений компании в следующем поколении фирменного интерконнекта Slingshot.

Изображение: Ayar Labs

Билл Далли (Bill Dally), главный научный сотрудник и старший вице-президент по исследованиям в NVIDIA отметил, что Ayar Labs обладает уникальной IO-технологией, которая отвечает потребностям масштабирования архитектур следующего поколения на основе кремниевой фотоники. Он заявил, что оптическая связь будет иметь важное значение при масштабировании кластеров ускорителей для удовлетворения быстрорастущих потребностей рабочих нагрузок ИИ и высокопроизводительных вычислений (HPC).

Изображение: NVIDIA

Благодаря внедрению оптических трансиверов непосредственно в чипы решение Ayar Labs позволяет устранить узкие места при объединении массивов чипов, связанные с пропускной способностью, энергопотреблением, задержкой сигнала и дальностью связи. Продукты компании помогут создать новые, ранее нереализуемые решения для ИИ, HPC, облачных, телекоммуникационных, аэрокосмических и иных приложений.

Компания вместе с MACOM, Sivers Semiconductors и Lumentum работает над созданием лазеров SuperNova. Чиплеты будут производиться GlobalFoundries с использованием новой монолитной кремниевой фотонной платформы GF Fotonix. GlobalFoundries является стратегическим инвестором Ayar Labs, впрочем, как и Hewlett Packard через своё подразделение Hewlett Packard Pathfinder.

Летом прошлого года компания Ayar Labs успешно продемонстрировала свои успехи на ниве интегрированной фотоники: оптический трансивер TeraPHY в сочетании с мультиволновым лазером SuperNova показали скорость на уровне 1024 Тбит/с, причём все восемь оптических каналов работали без прямой коррекции ошибок. Нет ничего удивительного в том, что технологиями Ayar Labs заинтересовался один из крупнейших в мире поставщиков суперкомпьютеров, компания HPE.

В современных системах HPE используется фирменный интерконнект Cray Slingshot, а теперь компании объединили усилия для создания новой версии этой технологии, но уже базирующейся на принципах фотоники. Эти принципы, напомним, подразумевают более тесную интеграцию электронных и оптических технологий, нежели в традиционных сетях с отдельными трансиверами. Пока о результатах говорить рано, не определены даже точные временные рамки, но речь идёт, как минимум, о «нескольких поколениях» Slingshot.

В первую очередь на базе решений Ayar Labs будет разработан новый, более экономичный и энергоэффективный коммутатор с гибридной ASIC, затем дело должно дойти и до периферийных адаптеров. Также речь идёт о дезагрегации: подразумевается создание прямого оптического интерконнекта, могущего связать воедино CPU, ускорители, FPGA и пулы памяти. Это обещает выигрыши в энергоэффективности и дальности таких соединений, а отсутствие в цепочке передачи данных лишних преобразований из электросигнала в оптический (и наоборот) позволит снизить латентность.

Ayar Labs действительно неплохо продвинулась в области разработки гибридных электронно-оптических чипов и многоволновых лазеров, которые могут параллельно обслуживать до 256 каналов передачи данных. Внедрение фотоники в сфере HPC обсуждалось десятилетиями, но лишь сейчас сделаны первые серьёзные шаги в этом направлении — и это во многом заслуга именно Ayar Labs.