Red Hat jednoczy twórców i operatorów systemów wokół agentowej przyszłości
Red HatRed Hat zapowiedział wprowadzenie nowej wersji swojej flagowej platformy do obsługi środowisk sztucznej inteligencji – Red Hat AI 3.4. Celem istotnego rozszerzenia jej funkcjonalności jest zmniejszenie dystansu między eksperymentowaniem z mechanizmami AI a wdrożeniami produkcyjnymi, które wymagają pełnej kontroli operacyjnej.
Nowa wersja platformy Red Hat AI ma zapewniać spójne środowisko obejmujące szeroki zakres – od warstwy sprzętowej po agentów AI – dzięki czemu upraszcza tworzenie i wdrażanie procesów obliczeniowych bazujących na autonomicznych agentach.
Czym jest Red Hat AI 3.4?
Red Hat AI 3.4 to rozbudowana platforma zapewniająca fundament architektoniczny oraz narzędzia operacyjne potrzebne do skalowania modeli AI i procesów obliczeniowych w agentach AI w środowiskach chmury hybrydowej. Jedną z ważniejszych nowości jest wprowadzenie modelu usługowego Model-as-a-Service (MaaS), który zapewnia programistom zunifikowany dostęp do zatwierdzonych modeli AI, a administratorom pozwala kontrolować wykorzystanie zasobów oraz egzekwować reguły polityki bezpieczeństwa i zgodności. Rozwiązanie to bazuje na wydajnym, rozproszonym środowisku inferencyjnym wykorzystującym mechanizmy vLLM i llm-d, co gwarantuje wydajne i zoptymalizowane działanie modeli w różnych środowiskach infrastruktury.
Wraz ze wzrostem znaczenia agentów AI gwałtownie rośnie zapotrzebowanie na moc obliczeniową potrzebną do prowadzenia inferencji. Red Hat AI umożliwia przedsiębiorstwom wdrażanie agentów na dużą skalę i zarządzanie nimi, niezależnie od wykorzystywanego frameworka. Nowe narzędzia AgentOps obejmują zarządzanie agentami od etapu tworzenia po środowisko produkcyjne, zapewniając m.in. śledzenie działań, monitorowanie, zarządzanie tożsamością kryptograficzną oraz cyklem życia agentów.
Platforma rozszerza także integrację firmowych danych z modelami i agentami AI. W Red Hat AI 3.4 pojawiło się zarządzanie promptami traktowanymi jako pełnoprawne zasoby danych oraz centralny moduł oceny modeli i agentów pod kątem jakości, trafności odpowiedzi i bezpieczeństwa. Funkcje te wykorzystują platformę MLflow, która zapewnia śledzenie eksperymentów i zarządzanie artefaktami zarówno dla generatywnej AI, jak i klasycznych modeli predykcyjnych.
MOŻE ZAINTERESUJE CIĘ TAKŻE
Dlaczego Red Hat AI 3.4 ma znaczenie?
Przejście od eksperymentalnych chatbotów do autonomicznych systemów gotowych do zastosowań produkcyjnych wymaga zasadniczej zmiany sposobu współpracy zespołów IT. Wiele przedsiębiorstw dostrzega obecnie potrzebę przejścia od roli wyłącznie „konsumentów tokenów” do roli ich „dostawców”, aby lepiej kontrolować koszty oraz rozwijać prywatne i suwerenne rozwiązania AI. Jednocześnie napięcia między zespołami tworzącymi aplikacje a administratorami infrastruktury pozostają jedną z głównych barier wdrożeń.
Red Hat AI 3.4 pomaga rozwiązać ten problem, zapewniając korporacyjną platformę do skalowalnej inferencji modeli i wdrażania autonomicznych agentów, oferując przejrzystość oraz kontrolę niezbędną do spełnienia rygorystycznych wymagań dotyczących bezpieczeństwa i nadzoru.
Dzięki integracji kryptograficznego zarządzania tożsamością platforma przypisuje działania do zweryfikowanej tożsamości, pomagając ustalić, który podmiot wykonał dane zadanie. W rezultacie firmy mogą przejść od rozproszonych projektów pilotażowych do traktowania AI jako skalowalnej, przewidywalnej i – co najważniejsze – rozliczalnej usługi korporacyjnej.
Źródło: Red Hat
