Материалы по тегу: kubernetes

19.03.2024 [03:18], Владимир Мироненко

Всё своё ношу с собой: NVIDIA представила контейнеры NIM для быстрого развёртывания оптимизированных ИИ-моделей

Компания NVIDIA представила микросервис NIM, входящий в платформу NVIDIA AI Enterprise 5.0 и предназначенный для оптимизации запуска различных популярных моделей ИИ от NVIDIA и её партнёров. NVIDIA NIM позволяет развёртывать ИИ-модели в различных инфраструктурах: от локальных рабочих станций до облаков.

Предварительно созданные контейнеры и Helm Chart'ы с оптимизированными моделями тщательно проверяются и тестируются на различных аппаратных платформах NVIDIA, у поставщиков облачных услуг и на дистрибутивах Kubernetes. Это обеспечивает поддержку всех сред с ускорителями NVIDIA и гарантирует, что компании смогут развёртывать свои приложения генеративного ИИ где угодно, сохраняя полный контроль над своими приложениями и данными, которые они обрабатывают. Разработчики могут получить доступ к моделям посредством стандартизированных API, что упрощает разработку и обновление приложений.

 Источник изображений: NVIDIA

Источник изображений: NVIDIA

NIM также может использоваться для оптимизации исполнения специализированных решений, поскольку не только использует NVIDIA CUDA, но и предлагает адаптацию для различных областей, таких как большие языковые модели (LLM), визуальные модели (VLM), а также модели речи, изображений, видео, 3D, разработки лекарств, медицинской визуализации и т.д. NIM использует оптимизированные механизмы инференса для каждой модели и конфигурации оборудования, обеспечивая наилучшую задержку и пропускную способность и позволяя более просто и быстро масштабироваться по мере роста нагрузок.

В то же время NIM позволяет дообучить и настроить модели на собственных данных, поскольку можно не только воспользоваться облачными API NVIDIA для доступа к готовым моделями, но и самостоятельно развернуть NIM в Kubernetes-средах у крупных облачных провайдеров или локально, что сокращает время разработки, сложность и стоимость подобных проектов и позволяет интегрировать NIM в существующие приложения без необходимости глубокой настройки или специальных знаний.

Постоянный URL: http://www.servernews.ru/1101874
03.03.2024 [03:14], Сергей Карасёв

Клиенты облачных платформ фактически используют только 13 % предоставленных им CPU-ресурсов

Исследование Cast AI показало, что клиенты облачных платформ используют в среднем только около 13 % предоставляемых им CPU-ресурсов и примерно 20 % выделенной памяти, передаёт DataCenter Dynamics. Это приводит к росту затрат и увеличению углеродного следа. А из-за того, что одни предприятия запрашивают избыточное количество мощностей, другие не могут получить доступ к вычислительным ресурсам.

Cast AI, предоставляющая средства оптимизации затрат на Kubernetes-платформы, проанализировала работу 4000 кластеров в Amazon Web Services (AWS), Google Cloud Platform и Microsoft Azure в период с 1 января по 31 декабря 2023 года. Оценивались кластеры с 50 и более процессорами.

 Источник изображения: Google

Источник изображения: Google

Оказалось, что в AWS и Azure уровень использования CPU-ресурсов находится на отметке 11 %, у Google Cloud — 17 %. В плане потребления памяти показатель равен 18 % у Google Cloud, 20 % — у AWS и 22 % — у Azure. В случае крупных кластеров, насчитывающих 1000 и более процессоров, средняя утилизация CPU составляет 17 %.

Аналитики Cast AI называют несколько причин, из-за которых наблюдается недостаточное использование облачных ресурсов. В частности, многие клиенты резервируют больше вычислительных мощностей, чем им необходимо на самом деле. Кроме того, заказчики прохладно относятся к так называемым спотовым инстансам. Такая модель обеспечивает значительную экономию средств (в некоторых случаях до 90 %), но клиенты опасаются возможной нестабильности. Ещё одна причина — недостаточное использование ресурсов кастомизированных инстансов, для которых можно выбрать соотношение CPU и RAM.

Для поставщиков облачных услуг сложившаяся ситуация в некотором смысле играет на руку: из-за неполной загрузки мощностей снижается потребность в электроэнергии. При этом провайдеры по-прежнему получают доход, основанный на гипотетическом использовании их серверов. Но вместе с тем приходится закупать больше дорогостоящего оборудования, чем это по факту необходимо.

Постоянный URL: http://www.servernews.ru/1101118
08.02.2024 [13:30], Владимир Мироненко

Selectel предлагает скидку до 25 % на облачные базы данных и управляемые кластеры Kubernetes

Selectel, ведущий независимый провайдер сервисов IT-инфраструктуры, предлагает скидку до 25 % на облачные базы данных и Managed Kubernetes при бронировании сервисов на 6 или 12 месяцев.

Как участвовать в акции:

  1. Зарегистрируйтесь в панели управления my.selectel.ru. Пополните баланс и подключите Managed Kubernetes или облачные базы данных.
  2. Создайте тикет с заявкой на участие. В нём укажите сервис, срок резерва (6 или 12 месяцев) и сумму планируемого потребления в месяц.
  3. Пользуйтесь сервисом в течение месяца. Оплачивайте его по стандартной цене по модели pay-as-you-go.
  4. При выполнении суммы резерва в следующем месяце Selectel начислит сумму скидки бонусными баллами.
 Источник изображения: Selectel

Источник изображения: Selectel

Размер скидки зависит от срока, на который вы зарезервируете ресурсы. При бронировании на 6 месяцев Selectel даёт скидку 20 %, при бронировании на год — 25 %. Сумма скидки начисляется в виде баллов на бонусный счёт клиента — ими можно оплатить любой сервис Selectel. Скидка начисляется в случае, если клиент тратит на сервис столько же, сколько указано в заявке, или больше.

Узнать подробнее и принять участие в акции можно по ссылке.

Постоянный URL: http://www.servernews.ru/1099974
28.12.2023 [14:09], Сергей Карасёв

SMART technologies и ГК «Аквариус» выпустили ПАК «Боцман Клик» для управления Kubernetes

Компании SMART technologies и ГК «Аквариус» анонсировали отечественный программно-аппаратный комплекс (ПАК) «Боцман Клик», предназначенный для управления мультикластерами Kubernetes. Решение предоставляет набор готовых инструментов для развёртывания, мониторинга, балансировки нагрузок, автомасштабирования контейнерных нагрузок, обеспечения безопасности и резервного копирования.

Аппаратная часть базируется на оборудовании Aquarius серии CF — это серверы для крупных предприятий и организаций. В качестве программной платформы может применяться российская ОС RedOS или AstraLinux. Инструменты для управления сетевыми политиками можно использовать через командную строку или графический интерфейс.

Платформа «Боцман Клик» поддерживает архитектуры x86 и Arm. Доступен каталог приложений, в который пользователи могут добавить собственные сконфигурированные и нативные приложения с возможностью быстрого развёртывания в кластере. Все используемые на платформе «Боцман Клик» инструменты open source находятся в локальном репозитории SMART Technologies Soft и регулярно обновляются.

 Источник изображения: SMART technologies

Источник изображения: SMART technologies

Утверждается, что на развёртывание платформы требуется около 30 мин. Решение позволяет создать виртуальное частное облако для управления всеми сервисами заказчика. Реализованы строгие политики безопасности и аутентификации. Производитель предоставляет техническую поддержку, в том числе в режиме 24/7. ПАК «Боцман Клик» включён в реестр российского ПО в ноябре 2023 года (запись №19999).

«Kubernetes — технология, которая выводит IT на новый уровень, позволяет автоматизировать и упрощать развёртывание контейнеров, гибко задавать различные политики и настройки и пользоваться подходом Infrastructure as Code, а также распределять ресурсы серверов более эффективно. С помощью нового отечественного ПАКа заказчики получили возможность реализовать современные подходы к развитию своей инфраструктуры», — говорит президент ГК «Аквариус».

Постоянный URL: http://www.servernews.ru/1098097
27.11.2023 [18:00], Владимир Мироненко

«Базис» выпустил универсальный продукт для повышения отказоустойчивости ИТ-инфраструктуры Базис.Virtual Protect

Ведущий отечественный разработчик виртуальных решений «Базис» выпустил новый продукт — Базис.Virtual Protect, который является универсальным программным комплексом для ИТ-инфраструктуры предприятия и средством повышения отказоустойчивости и надёжности его служб и сервисов. Базис.Virtual Protect предоставляет инструменты для резервного копирования кластеров Kubernetes и дисков виртуальных машин.

По словам разработчиков, Базис.Virtual Protect позволяет управлять всем процессом резервирования виртуальных систем через интуитивно понятный web-интерфейс, подключать и обслуживать несколько кластеров сразу. Помимо этого, пользователи системы получают возможность выбирать набор ресурсов для резервных копий и восстановления, планировать резервирование ресурсов по расписанию, использовать S3-совместимое хранилище для хранения резервных копий, осуществлять миграцию из кластера в кластер внутри одной облачной платформы. Все это должно уменьшать для клиента риски, связанные с потерей данных, а также в целом значительно экономить ресурсы на управление сложными виртуальными системами.

 Изображение: «Базис»

Изображение: «Базис»

«Современные предприятия функционируют в условиях высокой сложности, неопределённости и динамичности окружающей социально-экономической среды. Возрастание объёмов информации, усложнение задач управления, необходимость учёта большого числа взаимосвязанных экзогенных и эндогенных факторов приводят к необходимости использования современных информационных технологий. Разработка методик регулирования работы предприятий на основе российских элементов управления — это важный шаг на пути становления технологического суверенитета. До сих пор в стране в основном велась адаптация готовых зарубежных разработок. Базис.Virtual Protect — это самый передовой отечественный продукт в этом сегменте. Кроме того, он обладает и рядом уникальных преимуществ. Главное такое преимущество в том, что сокращается время на настройку резервного копирования или восстановление кластеров и дисков виртуальных машин, так как эти операции осуществляются через интуитивно понятный web-интерфейс», — поясняет Дмитрий Сорокин, технический директор «Базис».

 Изображение: «Базис»

Изображение: «Базис»

Резервное копирование данных и их защита в виртуальных системах – один из трендов рынка, и спрос на решение подобных задач среди предприятий особенно высокий. Базис.Virtual Protect был разработан как раз с целью решения конкретных задач для бизнеса: обеспечения резервного копирования кластеров, оптимизации расхода ресурсов, повышения надёжности решений на базе Kubernetes кластеров, гибкости в выборе хранилища резервных копий.

«Кластер Kubernetes в современном мире стал де-факто стандартом для развёртывания приложений. Все больше и больше компаний используют данный продукт в своём цикле разработки. В связи с этим довольно часто встаёт вопрос о сохранности, восстановлении данных и ресурсов во время и после сбоев. Из-за разнородности решений отсутствует какое-либо одно, которое удовлетворяло бы всем критериям. Однако теперь у отечественных предприятий есть доступ к Базис.Virtual Protect», — добавил Дмитрий Сорокин, технический директор «Базис».

Представители «Базис» также подчёркивают, что компания предоставляет не просто отдельные решения, как Базис.Virtual Protect или Базис.DynamiX. «Базис» — это полноценная экосистема из нескольких продуктов, единая система управления, которая покрывает сегменты IaaS и PaaS. В настоящий момент компания активно занимается развитием комплексных облачных систем на базе крупнейших отечественных компаний, среди которых РЖД, «Ростелеком», «Росатом», а также «ГосОблако».

Постоянный URL: http://www.servernews.ru/1096502
15.11.2023 [10:10], Владимир Мироненко

Selectel добавил возможность дополнительной защиты Managed Kubernetes с помощью решения Luntry

Selectel, ведущий российский провайдер IT-инфраструктуры, объявил о партнерстве с Luntry — разработчиком программного обеспечения для защиты контейнеров и Kubernetes. В рамках сотрудничества компании подтвердили совместимость продукта Selectel Managed Kubernetes с решением Luntry. Программное обеспечение доступно для установки в качестве дополнительной защиты кластеров Kubernetes, размещённых на инфраструктуре Selectel.

Для использования решения клиентам Managed Kubernetes от Selectel понадобится установить и активировать лицензию, которую можно приобрести на сайте Luntry. Решение позволит клиентам провайдера полностью управлять безопасностью контейнерных сред: в режиме реального времени получать актуальную информацию об угрозах в контейнерах и компонентах, отслеживать причины сбоев и аномальной активности, а также обеспечить высокий уровень защищенности в рамках быстрого цикла разработки. В первую очередь дополнительная защита контейнерных сред актуальна для крупного бизнеса.

 Источник изображения: Selectel

Источник изображения: Selectel

«Многие компании из сегмента Enterprise сейчас разрабатывают новые проекты сразу на базе микросервисной архитектуры, стандартом которой уже стал Kubernetes. При этом крупные заказчики наиболее требовательны к информационной безопасности. Из-за сложного взаимодействия Kubernetes с другими приложениями и сервисами обеспечение безопасности контейнерных сред представляет собой довольно многогранный процесс. И в этом плане сотрудничество с Luntry — важный шаг для дальнейшего развития наших сервисов», — прокомментировал Дмитрий Исаев, менеджер продукта Managed Kubernetes, Selectel.

«На сегодняшний день важно обеспечить безопасность на всех жизненных стадиях приложения, наладить эффективное взаимодействие между командами безопасности, DevOps и разработчиками за счет предоставления им единой картины и доступа к актуальной информации об их микросервисной инфраструктуре. За разработкой Luntry стоит желание помочь компаниям защитить контейнерные приложения и средства оркестрации на базе Kubernetes на протяжении всего жизненного цикла. Теперь вместе с Selectel мы готовы работать над достижением общих целей», — отметил Андрей Ганюшкин, коммерческий директор Luntry.

По данным iKS-Consulting, в 2022 году рынок PaaS-решений, в который входят и сервисы Kubernetes, вырос практически в полтора раза. «Мы также фиксируем рост спроса на эти продукты и активно развиваем направление PaaS — так, на нашей флагманской конференции Selectel Tech Day мы объявили о запуске в тестовом режиме Managed Kubernetes на выделенных серверах», — добавил Дмитрий Исаев.

Постоянный URL: http://www.servernews.ru/1095967
23.10.2023 [10:10], Сергей Карасёв

Selectel предлагает 100 % кэшбэк на облачные базы данных и кластеры Kubernetes

Selectel, ведущий российский провайдер IT-инфраструктуры, начисляет 100 % кэшбэк при использовании PaaS-сервисов — облачных баз данных и управляемых кластеров Kubernetes. Кэшбэк начисляется на протяжении трех месяцев, следующих за месяцем первого использования сервисов.

Для участия в акции нужно:
1. зарегистрироваться в панели управления my.selectel.ru;
2. пополнить баланс и подключить услуги «Базы данных» или «Kubernetes» в разделе «Облачная платформа»;
3. подать заявку на участие в акции через тикет-систему и получить подтверждение от Selectel;
4. в следующем календарном месяце пользователю будет начислен 100% кэшбэк за каждый рубль, потраченный на указанные сервисы. Кэшбэк начисляется на баланс аккаунта бонусными баллами и может быть использован для оплаты любых продуктов и услуг в Selectel.

Принять участие в акции могут как новые, так и текущие клиенты Selectel, которые ранее не использовали PaaS-сервисы провайдера или до начала проведения акции прекратили пользоваться данными услугами.

Акция действительна до 31 декабря 2023 года.

Подробности можно узнать на сайте Selectel.

 Источник изображения: Selectel

Источник изображения: Selectel

Постоянный URL: http://www.servernews.ru/1094772
22.09.2023 [21:12], Андрей Крупин

На выделенных серверах Selectel появится сервис Managed Kubernetes

Компания Selectel, являющаяся специализированным поставщиком IT-решений на базе собственной сети дата-центров, готовит к запуску управляемый сервис по развёртыванию кластеров Kubernetes на базе выделенных серверов (Managed Kubernetes on Bare Metal). О реализации решения было объявлено на конференции Selectel Tech Day 2023.

В сообщении Selectel отмечается, что использование Managed Kubernetes на выделенных серверах позволит клиентам улучшить производительность своих микросервисных приложений, что обеспечивается за счёт отсутствия гипервизора, виртуализирующего ресурсы физических серверов.

 Источник изображения: «Академия Selectel» / selectel.ru/blog/custom

Источник изображения: «Академия Selectel» / selectel.ru/blog/custom

Некоторые базы данных и приложения с постоянной нагрузкой могут быть требовательны к вычислительным ресурсам, в частности локальным дискам и сетям, поэтому возможность работы на «голом железе» позволит улучшить их производительность. При этом клиенты Selectel, как и раньше, могут использовать Managed Kubernetes в облаке для приложений с неравномерной нагрузкой, которым требуется автоматическое масштабирование.

Клиенты смогут использовать выделенные серверы для развёртывания воркер-нод Kubernetes, при этом мастер-ноды останутся в облаке. Сочетание выделенных и облачных серверов позволит одновременно обеспечить высокую производительность сервиса и снизить расходы на IT-инфраструктуру до 40 %. Решение гарантирует высокий уровень защиты данных, поскольку клиент получает выделенные и зарезервированные только под свой проект серверные мощности. Для реализации особо высоконагруженных вычислений (например, ML-проектов) возможна аренда кластеров Kubernetes на базе выделенных серверов с GPU.

Постоянный URL: http://www.servernews.ru/1093476
07.09.2023 [17:05], Андрей Крупин

Beeline cloud расширит портфель облачных сервисов Kubernetes-платформой Deckhouse

Поставщик IT-услуг и облачных сервисов Beeline cloud подписал соглашение о партнёрстве с компанией «Флант», разработчиком платформы для контейнеризации Deckhouse, основанной на Kubernetes и других Open Source-решениях. Результатом сотрудничества компаний станет включение Kubernetes-платформы Deckhouse в состав облачных решений и служб Beeline cloud. Отечественная разработка дополнит существующую услугу Cloud Managed Kubernetes.

Deckhouse включает в себя платформу Kubernetes и дополнительные модули для автоматического масштабирования, мониторинга, балансировки трафика, безопасного доступа и других функций. Продукт зарегистрирован в едином реестре российского ПО в классе «Системы контейнеризации и контейнеры». Также в активе Deckhouse имеется международная сертификация на совместимость с оригинальными релизами Kubernetes от Cloud Native Computing Foundation (CNCF).

 Источник изображения: flant.ru/products/deckhouse

Источник изображения: flant.ru/products/deckhouse

Kubernetes-платформа Deckhouse соответствует большинству рекомендаций PCI Security Standards Council и всем рекомендациям Center for Internet Security (CIS). В настоящий момент продукт находится в стадии прохождения процедуры сертификации по требованиям ФСТЭК России.

Постоянный URL: http://www.servernews.ru/1092684
23.08.2023 [18:49], Владимир Мироненко

VMware представила обновления для VMware Cloud и Tanzu

Компания VMware представила на ежегодной конференции VMware Explore масштабное обновление целого ряда своих продуктов.

Обновления VMware Cloud включают:

  • Службу NSX+ (ранее Project Northstar) в формате SaaS, которая предоставляет единую консоль для управления сетевыми политиками и политиками безопасности. Решение анализирует трафик в мультиоблачных средах и обеспечивает обнаружение угроз и реагирование на них, а также предлагает расширенные функции балансировщика и изоляции VPC.
  • Службу vSAN Max, которая позволяет масштабировать хранилища до петабайтного уровня независимо от вычислительных кластеров vSphere, что снижает общую стоимость владения. Решение будет доступно во второй половине 2024 года и позволит получить до 8,6 Пбайт и 3,6 млн IOPS на кластер, включающий до 24 узлов хранения. Решение подходит для ИИ и машинного обучения, а также кластеров Kubernetes.
  • Службу управления жизненным циклом ESXi в VMware vSphere+, которая позволит ИТ-администраторам централизованно управлять обновлениями своих VMware-сред в распределённой мультиоблачной среде.
 Изображения: VMware (via StorageReview)

Изображения: VMware (via StorageReview)

Кроме того, VMware внесла улучшения в VMware Ransomware Recovery, управляемый облачный сервис VMware для восстановления после атак программ-вымогателей. В частности, уже доступно одновременное восстановление нескольких ВМ, а вскоре появится возможность запуска рабочих нагрузок в облаке в то время, пока локальный ЦОД изолирован для проведения экспертизы. Заодно VMware усовершенствовала ПО для управления VDI и оконечными точками, добавив упреждающее устранение неполадок.

VMware также расширила возможности Tanzu. В частности, Tanzu Application Engine позволит разработчикам устанавливать бизнес-требования к доступности, безопасности и производительности своих приложений. А новые сервисы Tanzu Intelligence Services (на базе VMware Aria) позволят централизованно управлять, отслеживать и устранять неполадки, а также оптимизировать затраты, производительность и безопасность приложений в облаках. Наконец, анонсированы ещё два ИИ-сервиса для быстрого выявления и устранения неполадок: речевой чат-бот Intelligent Assistant, а также Tanzu Insights для сред Kubernetes, AWS и Microsoft Azure.

Также были анонсированы новые продукты для периферийных развёртываний: новое решение для розничной торговли; VMware Edge Cloud Orchestrator, унифицированный инструмент для развёртывания периферийных и управления ими; VMware Private Mobile Network, управляемый сервис для создания частных сетей 5G/4G. Наконец, совместно с NVIDIA компания представила интегрированное решение для генеративного ИИ VMware Private AI Foundation.

Компания объединила десятки пакетов продуктов и решений в пять интегрированных предложений VMware Cloud: Essentials, Standard, Pro, Advanced и Enterprise. Каждая последующая версия предоставляет дополнительные функции и сервисы, которые понадобятся предприятиям по мере модернизации облачной инфраструктуры. Окружения VMware Cloud можно будет развернуть и управлять ими в трёх вариантах: самостоятельно, при поддержке VMware (например, в AWS или на базе Equinix Metal) или сервис-провайдера (например, IBM Cloud).

Постоянный URL: http://www.servernews.ru/1091918
Система Orphus