Материалы по тегу: kubernetes

03.06.2024 [09:21], Владимир Мироненко

NVIDIA объявила об интеграции NIM с KServe

NVIDIA объявила, что набор инференес-микросервисов NVIDIA NIM будет работать с open source платформой KServe на базе Kubernetes, которая позволит автоматизировать развёртывание ИИ-моделей. Это также делает NIM широкодоступным на платформах различных компаний, таких как Canonical, Nutanix и Red Hat.

Интеграция NIM в KServe позволяет расширить возможность использования технологий NVIDIA сообществом, партнёрами по экосистеме и клиентами. Благодаря интеграции с KServe пользователи смогут получить доступ к NIM на многих корпоративных платформах, таких как Charmed KubeFlow от Canonical, Charmed Kubernetes, Nutanix GPT-in-a-Box 2.0, Red Hat OpenShift AI и многих других.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

В рамках интеграции NIM компания NVIDIA планирует активно участвовать в продвижении KServe, опираясь на свой портфель ПО с открытым исходным кодом, включая Triton и TensorRT-LLM. NVIDIA также является активным членом фонда Cloud Native Computing Foundation. NVIDIA и ранее участвовала в разработке KServe и адаптации этого инструмента под свои нужды, равно как и AWS, Bloomberg, Canonical, Cisco, Hewlett Packard Enterprise, IBM, Red Hat, Zillow.

Постоянный URL: http://www.servernews.ru/1105821
28.05.2024 [13:10], Владимир Мироненко

Nutanix укрепила дружбу с Dell, представила свою Kubernetes-платформу и предложила переехать с VMware на её решения

Компания Nutanix, специализирующаяся на разработке решений в области гибридных мультиоблачных платформ и HCI, объявила о партнёрстве с Dell Technologies, благодаря которому их клиенты смогут использовать гибридные мультиоблачные решения Dell и Nutanix для улучшения ИТ-операций, повышения отказоустойчивости и гибкости в работе.

Как сообщается, Nutanix и Dell будут сотрудничать в работе над двумя решениями. Клиенты смогут оптимизировать развёртывание частных и гибридных мультиоблачных сред благодаря сочетанию предложений Dell по серверам и СХД и ПО Nutanix. В рамках соглашения Dell предложит интегрированное гиперконвергентное решение «под ключ», которое объединяет облачную платформу Nutanix Cloud Platform (NCP) с серверами Dell. Решение будет доступно в широком ассортименте моделей и конфигураций серверов PowerEdge для широкого спектра приложений.

 Источник изображений: Nutanix

Источник изображений: Nutanix

Чтобы обеспечить гибкость и возможность выбора экосистемы платформа NCP for Dell PowerFlex объединит преимущества NCP на базе гипервизора AHV с программно-определяемым блочным хранилищем Dell PowerFlex. Решение позволит клиентам масштабировать хранилище независимо от вычислений.

Помимо предоставления двух новых совместных решений, компании будут сотрудничать в области проектирования, вывода решений на рынок, поддержки и обслуживания. Решения будут предлагаться отделами продаж и партнёрами Dell по всему миру, что позволит Nutanix расширить сеть дистрибуции. Совместные решения Dell и Nutanix пока находятся в разработке и появятся в раннем доступе позднее в этом году. Кроме того, Nutanix договорилась об интеграции AHV с Cisco ACI Virtual Machine Manager (VMM).

Также Nutanix сделала своё хранилище доступным в AWS EKS, пишет The Register. Ресурс также отметил, что Nutanix представила платформу Nutanix Kubernetes Platform (NKP), появившуюся в результате приобретения в конце 2023 года фирмы D2IQ (MesSphere). Главная особенность платформы заключается в том, что она позволяет управлять кластерами, работающими в средах, отличных от Nutanix. Эта особенность будет использоваться в анонсированном Nutanix в прошлом году проекте Project Beacon, нацеленном на создание ряда продуктов PaaS, которые работают в любом облаке и не требуют наличия стека Nutanix.

Также Nutanix расширила поддержку гипервизором AHV большего количества оборудования, добавив в этот перечень узлы VSAN Ready Node — ориентированные на системы хранения данных серверы, которые OEM-производители создают для массивов хранения данных VMware. Nutanix гарантирует, что AHV сможет работать на этих устройствах, если пользователи захотят перепрофилировать их. Это поможет тем, кто, возможно, пожелает прекратить или уменьшить использование решений VMware после её поглощения Broadcom.

Постоянный URL: http://www.servernews.ru/1105513
24.04.2024 [23:45], Владимир Мироненко

NVIDIA приобрела за $700 млн платформу оркестрации ИИ-нагрузок Run:ai

Компания NVIDIA объявила о приобретении стартапа Run:ai из Тель-Авива (Израиль), занимающегося разработкой ПО для управления рабочими нагрузками и оркестрации на базе Kubernetes, которое позволяет более эффективно использовать вычислительные ресурсы при работе с ИИ-приложениями.

Стоимость сделки не раскрывается. По данным TechCrunch, покупка обошлась NVIDIA в $700 млн. Это одно из крупнейших приобретений Nvidia с момента покупки Mellanox за $6,9 млрд в марте 2019 года. Два года назад NVIDIA купила Bright Computing, разработчика решений для управления НРС-кластерами.

NVIDIA отметила, что развёртывание ИИ-приложениЙ становится всё более сложным. Оркестрация генеративного ИИ, рекомендательных и поисковых систем, а также других рабочих нагрузок требует сложного планирования для оптимизации производительности. ПО Run:ai позволяет управлять и оптимизировать вычислительную инфраструктуру как локально, так и в облаке или в гибридных средах.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

Созданная стартапом открытая платформа поддерживает все популярные варианты Kubernetes и интегрируется со сторонними инструментами и платформами ИИ. Компании из различных отраслей используют платформу Run:ai для управления кластерами ускорителей в масштабе ЦОД.

Как сообщается, на относительно раннем этапе деятельности Run:ai удалось создать большую клиентскую базу из компаний из списка Fortune 500, что позволило привлечь венчурные инвестиции. Перед сделкой Run:ai привлекла капитал в размере $118 млн от ряда инвесторов, включая Insight Partners, Tiger Global, S Capital и TLV Partners.

NVIDIA заявила, что в ближайшем будущем продолжит предлагать продукты Run:ai в рамках той же бизнес-модели, а также продолжит инвестировать в развитие Run:ai в рамках платформы NVIDIA DGX Cloud, предоставляющей корпоративным клиентам доступ к вычислительной инфраструктуре и ПО для обучения моделей генеративного и других форм ИИ.

Решения Run:ai уже интегрированы с NVIDIA DGX, NVIDIA DGX SuperPOD, NVIDIA Base Command, контейнерами NGC, ПО NVIDIA AI Enterprise и другими продуктами. По словам NVIDIA, пользователи серверов и рабочих станций NVIDIA DGX, а также DGX Cloud также получат доступ к возможностям Run:ai, что особенно полезно при развёртывании генеративного ИИ в нескольких ЦОД.

Постоянный URL: http://www.servernews.ru/1103807
19.03.2024 [03:18], Владимир Мироненко

Всё своё ношу с собой: NVIDIA представила контейнеры NIM для быстрого развёртывания оптимизированных ИИ-моделей

Компания NVIDIA представила микросервис NIM, входящий в платформу NVIDIA AI Enterprise 5.0 и предназначенный для оптимизации запуска различных популярных моделей ИИ от NVIDIA и её партнёров. NVIDIA NIM позволяет развёртывать ИИ-модели в различных инфраструктурах: от локальных рабочих станций до облаков.

Предварительно созданные контейнеры и Helm Chart'ы с оптимизированными моделями тщательно проверяются и тестируются на различных аппаратных платформах NVIDIA, у поставщиков облачных услуг и на дистрибутивах Kubernetes. Это обеспечивает поддержку всех сред с ускорителями NVIDIA и гарантирует, что компании смогут развёртывать свои приложения генеративного ИИ где угодно, сохраняя полный контроль над своими приложениями и данными, которые они обрабатывают. Разработчики могут получить доступ к моделям посредством стандартизированных API, что упрощает разработку и обновление приложений.

 Источник изображений: NVIDIA

Источник изображений: NVIDIA

NIM также может использоваться для оптимизации исполнения специализированных решений, поскольку не только использует NVIDIA CUDA, но и предлагает адаптацию для различных областей, таких как большие языковые модели (LLM), визуальные модели (VLM), а также модели речи, изображений, видео, 3D, разработки лекарств, медицинской визуализации и т.д. NIM использует оптимизированные механизмы инференса для каждой модели и конфигурации оборудования, обеспечивая наилучшую задержку и пропускную способность и позволяя более просто и быстро масштабироваться по мере роста нагрузок.

В то же время NIM позволяет дообучить и настроить модели на собственных данных, поскольку можно не только воспользоваться облачными API NVIDIA для доступа к готовым моделями, но и самостоятельно развернуть NIM в Kubernetes-средах у крупных облачных провайдеров или локально, что сокращает время разработки, сложность и стоимость подобных проектов и позволяет интегрировать NIM в существующие приложения без необходимости глубокой настройки или специальных знаний.

Постоянный URL: http://www.servernews.ru/1101874
03.03.2024 [03:14], Сергей Карасёв

Клиенты облачных платформ фактически используют только 13 % предоставленных им CPU-ресурсов

Исследование Cast AI показало, что клиенты облачных платформ используют в среднем только около 13 % предоставляемых им CPU-ресурсов и примерно 20 % выделенной памяти, передаёт DataCenter Dynamics. Это приводит к росту затрат и увеличению углеродного следа. А из-за того, что одни предприятия запрашивают избыточное количество мощностей, другие не могут получить доступ к вычислительным ресурсам.

Cast AI, предоставляющая средства оптимизации затрат на Kubernetes-платформы, проанализировала работу 4000 кластеров в Amazon Web Services (AWS), Google Cloud Platform и Microsoft Azure в период с 1 января по 31 декабря 2023 года. Оценивались кластеры с 50 и более процессорами.

 Источник изображения: Google

Источник изображения: Google

Оказалось, что в AWS и Azure уровень использования CPU-ресурсов находится на отметке 11 %, у Google Cloud — 17 %. В плане потребления памяти показатель равен 18 % у Google Cloud, 20 % — у AWS и 22 % — у Azure. В случае крупных кластеров, насчитывающих 1000 и более процессоров, средняя утилизация CPU составляет 17 %.

Аналитики Cast AI называют несколько причин, из-за которых наблюдается недостаточное использование облачных ресурсов. В частности, многие клиенты резервируют больше вычислительных мощностей, чем им необходимо на самом деле. Кроме того, заказчики прохладно относятся к так называемым спотовым инстансам. Такая модель обеспечивает значительную экономию средств (в некоторых случаях до 90 %), но клиенты опасаются возможной нестабильности. Ещё одна причина — недостаточное использование ресурсов кастомизированных инстансов, для которых можно выбрать соотношение CPU и RAM.

Для поставщиков облачных услуг сложившаяся ситуация в некотором смысле играет на руку: из-за неполной загрузки мощностей снижается потребность в электроэнергии. При этом провайдеры по-прежнему получают доход, основанный на гипотетическом использовании их серверов. Но вместе с тем приходится закупать больше дорогостоящего оборудования, чем это по факту необходимо.

Постоянный URL: http://www.servernews.ru/1101118
08.02.2024 [13:30], Владимир Мироненко

Selectel предлагает скидку до 25 % на облачные базы данных и управляемые кластеры Kubernetes

Selectel, ведущий независимый провайдер сервисов IT-инфраструктуры, предлагает скидку до 25 % на облачные базы данных и Managed Kubernetes при бронировании сервисов на 6 или 12 месяцев.

Как участвовать в акции:

  1. Зарегистрируйтесь в панели управления my.selectel.ru. Пополните баланс и подключите Managed Kubernetes или облачные базы данных.
  2. Создайте тикет с заявкой на участие. В нём укажите сервис, срок резерва (6 или 12 месяцев) и сумму планируемого потребления в месяц.
  3. Пользуйтесь сервисом в течение месяца. Оплачивайте его по стандартной цене по модели pay-as-you-go.
  4. При выполнении суммы резерва в следующем месяце Selectel начислит сумму скидки бонусными баллами.
 Источник изображения: Selectel

Источник изображения: Selectel

Размер скидки зависит от срока, на который вы зарезервируете ресурсы. При бронировании на 6 месяцев Selectel даёт скидку 20 %, при бронировании на год — 25 %. Сумма скидки начисляется в виде баллов на бонусный счёт клиента — ими можно оплатить любой сервис Selectel. Скидка начисляется в случае, если клиент тратит на сервис столько же, сколько указано в заявке, или больше.

Узнать подробнее и принять участие в акции можно по ссылке.

Постоянный URL: http://www.servernews.ru/1099974
28.12.2023 [14:09], Сергей Карасёв

SMART technologies и ГК «Аквариус» выпустили ПАК «Боцман Клик» для управления Kubernetes

Компании SMART technologies и ГК «Аквариус» анонсировали отечественный программно-аппаратный комплекс (ПАК) «Боцман Клик», предназначенный для управления мультикластерами Kubernetes. Решение предоставляет набор готовых инструментов для развёртывания, мониторинга, балансировки нагрузок, автомасштабирования контейнерных нагрузок, обеспечения безопасности и резервного копирования.

Аппаратная часть базируется на оборудовании Aquarius серии CF — это серверы для крупных предприятий и организаций. В качестве программной платформы может применяться российская ОС RedOS или AstraLinux. Инструменты для управления сетевыми политиками можно использовать через командную строку или графический интерфейс.

Платформа «Боцман Клик» поддерживает архитектуры x86 и Arm. Доступен каталог приложений, в который пользователи могут добавить собственные сконфигурированные и нативные приложения с возможностью быстрого развёртывания в кластере. Все используемые на платформе «Боцман Клик» инструменты open source находятся в локальном репозитории SMART Technologies Soft и регулярно обновляются.

 Источник изображения: SMART technologies

Источник изображения: SMART technologies

Утверждается, что на развёртывание платформы требуется около 30 мин. Решение позволяет создать виртуальное частное облако для управления всеми сервисами заказчика. Реализованы строгие политики безопасности и аутентификации. Производитель предоставляет техническую поддержку, в том числе в режиме 24/7. ПАК «Боцман Клик» включён в реестр российского ПО в ноябре 2023 года (запись №19999).

«Kubernetes — технология, которая выводит IT на новый уровень, позволяет автоматизировать и упрощать развёртывание контейнеров, гибко задавать различные политики и настройки и пользоваться подходом Infrastructure as Code, а также распределять ресурсы серверов более эффективно. С помощью нового отечественного ПАКа заказчики получили возможность реализовать современные подходы к развитию своей инфраструктуры», — говорит президент ГК «Аквариус».

Постоянный URL: http://www.servernews.ru/1098097
27.11.2023 [18:00], Владимир Мироненко

«Базис» выпустил универсальный продукт для повышения отказоустойчивости ИТ-инфраструктуры Базис.Virtual Protect

Ведущий отечественный разработчик виртуальных решений «Базис» выпустил новый продукт — Базис.Virtual Protect, который является универсальным программным комплексом для ИТ-инфраструктуры предприятия и средством повышения отказоустойчивости и надёжности его служб и сервисов. Базис.Virtual Protect предоставляет инструменты для резервного копирования кластеров Kubernetes и дисков виртуальных машин.

По словам разработчиков, Базис.Virtual Protect позволяет управлять всем процессом резервирования виртуальных систем через интуитивно понятный web-интерфейс, подключать и обслуживать несколько кластеров сразу. Помимо этого, пользователи системы получают возможность выбирать набор ресурсов для резервных копий и восстановления, планировать резервирование ресурсов по расписанию, использовать S3-совместимое хранилище для хранения резервных копий, осуществлять миграцию из кластера в кластер внутри одной облачной платформы. Все это должно уменьшать для клиента риски, связанные с потерей данных, а также в целом значительно экономить ресурсы на управление сложными виртуальными системами.

 Изображение: «Базис»

Изображение: «Базис»

«Современные предприятия функционируют в условиях высокой сложности, неопределённости и динамичности окружающей социально-экономической среды. Возрастание объёмов информации, усложнение задач управления, необходимость учёта большого числа взаимосвязанных экзогенных и эндогенных факторов приводят к необходимости использования современных информационных технологий. Разработка методик регулирования работы предприятий на основе российских элементов управления — это важный шаг на пути становления технологического суверенитета. До сих пор в стране в основном велась адаптация готовых зарубежных разработок. Базис.Virtual Protect — это самый передовой отечественный продукт в этом сегменте. Кроме того, он обладает и рядом уникальных преимуществ. Главное такое преимущество в том, что сокращается время на настройку резервного копирования или восстановление кластеров и дисков виртуальных машин, так как эти операции осуществляются через интуитивно понятный web-интерфейс», — поясняет Дмитрий Сорокин, технический директор «Базис».

 Изображение: «Базис»

Изображение: «Базис»

Резервное копирование данных и их защита в виртуальных системах – один из трендов рынка, и спрос на решение подобных задач среди предприятий особенно высокий. Базис.Virtual Protect был разработан как раз с целью решения конкретных задач для бизнеса: обеспечения резервного копирования кластеров, оптимизации расхода ресурсов, повышения надёжности решений на базе Kubernetes кластеров, гибкости в выборе хранилища резервных копий.

«Кластер Kubernetes в современном мире стал де-факто стандартом для развёртывания приложений. Все больше и больше компаний используют данный продукт в своём цикле разработки. В связи с этим довольно часто встаёт вопрос о сохранности, восстановлении данных и ресурсов во время и после сбоев. Из-за разнородности решений отсутствует какое-либо одно, которое удовлетворяло бы всем критериям. Однако теперь у отечественных предприятий есть доступ к Базис.Virtual Protect», — добавил Дмитрий Сорокин, технический директор «Базис».

Представители «Базис» также подчёркивают, что компания предоставляет не просто отдельные решения, как Базис.Virtual Protect или Базис.DynamiX. «Базис» — это полноценная экосистема из нескольких продуктов, единая система управления, которая покрывает сегменты IaaS и PaaS. В настоящий момент компания активно занимается развитием комплексных облачных систем на базе крупнейших отечественных компаний, среди которых РЖД, «Ростелеком», «Росатом», а также «ГосОблако».

Постоянный URL: http://www.servernews.ru/1096502
15.11.2023 [10:10], Владимир Мироненко

Selectel добавил возможность дополнительной защиты Managed Kubernetes с помощью решения Luntry

Selectel, ведущий российский провайдер IT-инфраструктуры, объявил о партнерстве с Luntry — разработчиком программного обеспечения для защиты контейнеров и Kubernetes. В рамках сотрудничества компании подтвердили совместимость продукта Selectel Managed Kubernetes с решением Luntry. Программное обеспечение доступно для установки в качестве дополнительной защиты кластеров Kubernetes, размещённых на инфраструктуре Selectel.

Для использования решения клиентам Managed Kubernetes от Selectel понадобится установить и активировать лицензию, которую можно приобрести на сайте Luntry. Решение позволит клиентам провайдера полностью управлять безопасностью контейнерных сред: в режиме реального времени получать актуальную информацию об угрозах в контейнерах и компонентах, отслеживать причины сбоев и аномальной активности, а также обеспечить высокий уровень защищенности в рамках быстрого цикла разработки. В первую очередь дополнительная защита контейнерных сред актуальна для крупного бизнеса.

 Источник изображения: Selectel

Источник изображения: Selectel

«Многие компании из сегмента Enterprise сейчас разрабатывают новые проекты сразу на базе микросервисной архитектуры, стандартом которой уже стал Kubernetes. При этом крупные заказчики наиболее требовательны к информационной безопасности. Из-за сложного взаимодействия Kubernetes с другими приложениями и сервисами обеспечение безопасности контейнерных сред представляет собой довольно многогранный процесс. И в этом плане сотрудничество с Luntry — важный шаг для дальнейшего развития наших сервисов», — прокомментировал Дмитрий Исаев, менеджер продукта Managed Kubernetes, Selectel.

«На сегодняшний день важно обеспечить безопасность на всех жизненных стадиях приложения, наладить эффективное взаимодействие между командами безопасности, DevOps и разработчиками за счет предоставления им единой картины и доступа к актуальной информации об их микросервисной инфраструктуре. За разработкой Luntry стоит желание помочь компаниям защитить контейнерные приложения и средства оркестрации на базе Kubernetes на протяжении всего жизненного цикла. Теперь вместе с Selectel мы готовы работать над достижением общих целей», — отметил Андрей Ганюшкин, коммерческий директор Luntry.

По данным iKS-Consulting, в 2022 году рынок PaaS-решений, в который входят и сервисы Kubernetes, вырос практически в полтора раза. «Мы также фиксируем рост спроса на эти продукты и активно развиваем направление PaaS — так, на нашей флагманской конференции Selectel Tech Day мы объявили о запуске в тестовом режиме Managed Kubernetes на выделенных серверах», — добавил Дмитрий Исаев.

Постоянный URL: http://www.servernews.ru/1095967
23.10.2023 [10:10], Сергей Карасёв

Selectel предлагает 100 % кэшбэк на облачные базы данных и кластеры Kubernetes

Selectel, ведущий российский провайдер IT-инфраструктуры, начисляет 100 % кэшбэк при использовании PaaS-сервисов — облачных баз данных и управляемых кластеров Kubernetes. Кэшбэк начисляется на протяжении трех месяцев, следующих за месяцем первого использования сервисов.

Для участия в акции нужно:
1. зарегистрироваться в панели управления my.selectel.ru;
2. пополнить баланс и подключить услуги «Базы данных» или «Kubernetes» в разделе «Облачная платформа»;
3. подать заявку на участие в акции через тикет-систему и получить подтверждение от Selectel;
4. в следующем календарном месяце пользователю будет начислен 100% кэшбэк за каждый рубль, потраченный на указанные сервисы. Кэшбэк начисляется на баланс аккаунта бонусными баллами и может быть использован для оплаты любых продуктов и услуг в Selectel.

Принять участие в акции могут как новые, так и текущие клиенты Selectel, которые ранее не использовали PaaS-сервисы провайдера или до начала проведения акции прекратили пользоваться данными услугами.

Акция действительна до 31 декабря 2023 года.

Подробности можно узнать на сайте Selectel.

 Источник изображения: Selectel

Источник изображения: Selectel

Постоянный URL: http://www.servernews.ru/1094772
Система Orphus