Narzędzia generatywnej sztucznej inteligencji (AI), np. duże modele językowe (LLM), przekształcają zarządzanie wiedzą w przedsiębiorstwie przez automatyzację organizacji, pobierania i analizy danych, co powoduje zwiększenie produktywności i lepsze podejmowanie decyzji. Niestandardowe modele LLM oferują większą dokładność, podczas gdy uczenie brzegowe podnosi poziom prywatności danych, choć może być również bardziej kosztowne. To rozwiązanie obsługuje precyzyjne dostosowanie modeli LLM za pomocą 1–4 kart graficznych i dysków SSD SQ ai100 AI, umożliwiając przedsiębiorstwom efektywne kosztowo uczenie modeli LLM z jednoczesnym zachowaniem bezpieczeństwa danych wrażliwych na brzegu sieci. 

Oferta czterech rozwiązań do różnych zastosowań

Advantech oferuje cztery opcje: AIR-520-L13B/L33B/L70B oraz L70B-Plus do różnych skali i aplikacji. L13B to idealne rozwiązanie do aplikacji działających w czasie rzeczywistym, takich jak chatboty i tłumaczenia językowe. L33B opracowano do bardziej złożonych zadań przez poprawienie produktywności i innowacyjności podczas tworzenia treści. L70B wyróżnia się zaawansowaną analizą danych i podejmowaniem decyzji w wyspecjalizowanych dziedzinach. Ponadto L70B-Plus z platformą programową NVIDIA AI Enterprise oferuje kompleksowe, niezawodne i zoptymalizowane pakiety SDK AI obejmujące długoterminowe wsparcie i specjalistyczne usługi konsultingowe, aby zapewnić efektywne wdrażanie aplikacji biznesowych.

Instalacja zoptymalizowana do zapewnienia efektywności kosztowej 

Wszystkie rozwiązania wyposażono w dyski SSD SQ ai100 AI z technologią aiDAPTIV+ firmy Phison. Dyski SSD pełnią rolę rozszerzenia pamięci vRAM karty graficznej i umożliwiają precyzyjne dostosowanie modeli LLM przy minimalnej liczbie kart graficznych. Takie podejście nie tylko niweluje barierę budżetową, ale także sprawia, że serwer Edge AI jest bardziej zwarty w porównaniu z tradycyjnymi dużymi serwerami montowanymi w szafach. Serwer Edge AI AIR-520 zaprojektowano do użytku w różnych aplikacjach brzegowych AI. Jego rozmiar jest porównywalny z komputerem stacjonarnym i można go zamontować w szafie z użyciem odpowiednich akcesoriów. Niski profil pozwala na łatwe wdrożenie środowiska dostosowania brzegowej AI bez obaw o miejsce i konserwację.

MOŻE ZAINTERESUJE CIĘ TAKŻE

Firmy

Advantech kontynuuje dążenie do zrównoważonych rozwiązań

Zmiany klimatu, zrównoważone zarządzanie zasobami oraz cyfryzacja sektorów gospodarki stanowią główne czynniki, kształtujące rzeczywistość biznesową w 2024 r.

Firmy

Advantech nawiązuje współpracę z Qualcomm

Na targach Embedded World, firma Advantech ogłosiła nawiązanie strategicznej współpracy z Qualcomm Technologies. w celu zrewolucjonizowania środowiska przetwarzania brzegowego.

Szybki rozwój GenAI za pośrednictwem usług w zakresie programowania

Oprócz możliwości dostosowywania modeli LLM, Advantech oferuje pakiet SDK Edge AI z rozwiązaniem GenAI Training Studio, który fabrycznie wyposażono w modele Llama-2 13B/33B/70B do takich zastosowań, jak chatboty i analiza danych. W ten sposób można uprościć i przyspieszyć uczenie modeli LLM specyficznych dla klienta oraz ocenę wnioskowania w ramach modelu AIR-520. Ponadto DeviceOn firmy Advantech zapewnia aktualizacje OTA oprogramowania/kontenera i zdalne zarządzanie oraz ułatwia wydajną orkiestrację brzegowej sztucznej inteligencji (AI) i konserwację długoterminową.

Źródło: Advantech