Advantech wprowadza serwerowe rozwiązania Edge AI
AdvantechAdvantech ogłasza przełomowe rozwiązanie serwerowe Edge AI na potrzeby generatywnej sztucznej inteligencji (AI), wykorzystujące opatentowaną technologię aiDAPTIV+ firmy Phison. Serwer Edge AI AIR-520, wyposażony w procesor z serii AMD EPYC 7003, integruje dyski SSD SQ ai100 AI, karty graficzne NVIDIA RTX, pakiety SDK Edge AI i NVIDIA AI Enterprise, aby zapewnić rozwiązanie gotowe do wdrożenia.
Narzędzia generatywnej sztucznej inteligencji (AI), np. duże modele językowe (LLM), przekształcają zarządzanie wiedzą w przedsiębiorstwie przez automatyzację organizacji, pobierania i analizy danych, co powoduje zwiększenie produktywności i lepsze podejmowanie decyzji. Niestandardowe modele LLM oferują większą dokładność, podczas gdy uczenie brzegowe podnosi poziom prywatności danych, choć może być również bardziej kosztowne. To rozwiązanie obsługuje precyzyjne dostosowanie modeli LLM za pomocą 1–4 kart graficznych i dysków SSD SQ ai100 AI, umożliwiając przedsiębiorstwom efektywne kosztowo uczenie modeli LLM z jednoczesnym zachowaniem bezpieczeństwa danych wrażliwych na brzegu sieci.
Oferta czterech rozwiązań do różnych zastosowań
Advantech oferuje cztery opcje: AIR-520-L13B/L33B/L70B oraz L70B-Plus do różnych skali i aplikacji. L13B to idealne rozwiązanie do aplikacji działających w czasie rzeczywistym, takich jak chatboty i tłumaczenia językowe. L33B opracowano do bardziej złożonych zadań przez poprawienie produktywności i innowacyjności podczas tworzenia treści. L70B wyróżnia się zaawansowaną analizą danych i podejmowaniem decyzji w wyspecjalizowanych dziedzinach. Ponadto L70B-Plus z platformą programową NVIDIA AI Enterprise oferuje kompleksowe, niezawodne i zoptymalizowane pakiety SDK AI obejmujące długoterminowe wsparcie i specjalistyczne usługi konsultingowe, aby zapewnić efektywne wdrażanie aplikacji biznesowych.
Instalacja zoptymalizowana do zapewnienia efektywności kosztowej
Wszystkie rozwiązania wyposażono w dyski SSD SQ ai100 AI z technologią aiDAPTIV+ firmy Phison. Dyski SSD pełnią rolę rozszerzenia pamięci vRAM karty graficznej i umożliwiają precyzyjne dostosowanie modeli LLM przy minimalnej liczbie kart graficznych. Takie podejście nie tylko niweluje barierę budżetową, ale także sprawia, że serwer Edge AI jest bardziej zwarty w porównaniu z tradycyjnymi dużymi serwerami montowanymi w szafach. Serwer Edge AI AIR-520 zaprojektowano do użytku w różnych aplikacjach brzegowych AI. Jego rozmiar jest porównywalny z komputerem stacjonarnym i można go zamontować w szafie z użyciem odpowiednich akcesoriów. Niski profil pozwala na łatwe wdrożenie środowiska dostosowania brzegowej AI bez obaw o miejsce i konserwację.
MOŻE ZAINTERESUJE CIĘ TAKŻE
Szybki rozwój GenAI za pośrednictwem usług w zakresie programowania
Oprócz możliwości dostosowywania modeli LLM, Advantech oferuje pakiet SDK Edge AI z rozwiązaniem GenAI Training Studio, który fabrycznie wyposażono w modele Llama-2 13B/33B/70B do takich zastosowań, jak chatboty i analiza danych. W ten sposób można uprościć i przyspieszyć uczenie modeli LLM specyficznych dla klienta oraz ocenę wnioskowania w ramach modelu AIR-520. Ponadto DeviceOn firmy Advantech zapewnia aktualizacje OTA oprogramowania/kontenera i zdalne zarządzanie oraz ułatwia wydajną orkiestrację brzegowej sztucznej inteligencji (AI) i konserwację długoterminową.
Źródło: Advantech
