
Wdrożenia sztucznej inteligencji stają się coraz bardziej złożone, a związane z nią obciążenia obliczeniowe stają się rozproszone w chmurze, infrastrukturze brzegowej lub lokalnym centrum danych. Zarządzanie i koordynowanie generatywną sztuczną inteligencją, systemami rekomendacji i wyszukiwarkami wymagają zaawansowanego harmonogramowania w celu optymalizacji wydajności na poziomie systemu i w podstawowej infrastrukturze.
Jako dostawca technologii sztucznej inteligencji i cyfrowych bliźniaków NVIDIA sfinalizowała przejęcie Run:ai, producenta oprogramowania do zarządzania obciążeniami GPU i ich koordynacją opartego na Kubernetes. Przejęcie ogłoszone po raz pierwszy w kwietniu ubiegłego roku ma na celu umożliwienie lepszego wykorzystania GPU, bardziej wydajne zarządzanie infrastrukturą GPU i zapewnienie większej elastyczności dzięki otwartej architekturze.
Run:ai umożliwia klientom korporacyjnym zarządzanie i optymalizację infrastruktury obliczeniowej niezależnie od tego, czy jest osadzona lokalnie, w chmurze czy w środowiskach hybrydowych. Podczas gdy oferta Run:ai obsługuje obecnie wyłącznie procesory NVIDIA, radzi sobie z wszystkimi popularnymi wariantami Kubernetes i integruje z narzędziami i strukturami SI innych dostawców. Firma ogłosiła plany udostępnienia oprogramowania Run:ai w formie open source w celu rozszerzenia jego dostępności na cały ekosystem sztucznej inteligencji.
Platforma obejmuje centralny interfejs do zarządzania współdzieloną infrastrukturą obliczeniową, funkcjonalność zarządzania zasobami użytkowników, możliwość łączenia procesorów graficznych i współdzielenia mocy obliczeniowej w celu wykonywania oddzielnych zadań oraz efektywne wykorzystanie zasobów klastra procesorów graficznych.
Przedsiębiorstwo Run:ai współpracuje ściśle z firmą NVIDIA od 2020 roku, a jego baza klientów obejmuje niektóre z największych przedsiębiorstw na świecie z różnych branż, które wykorzystują oferowaną platformę do zarządzania klastrami procesorów graficznych w skali centrodanowej.
(rr)
Kategoria wiadomości:
Z życia branży
- Źródło:
- arcweb

Komentarze (0)
Czytaj także
-
Jak skutecznie zarządzać komponentami SMD w nowoczesnej produkcji?
Zarządzanie komponentami SMD to proces, który zwykle nie przyciąga uwagi – dopóki wszystko działa sprawnie. Jednak wystarczy jedno...
-
Kluczowa rola wycinarek laserowych w obróbce metali
Wycinarki laserowe zrewolucjonizowały przemysł obróbki metali, oferując niezwykłą precyzję i efektywność. Dowiedz się, dlaczego są one...
-
-
-
-
-