Jednym z wymogów Copliot+ PC jest obecność jednostki NPU. Czym procesor neuronowy różni się od GPU?
W 2024 roku na rynku pojawiły się pierwsze komputery zdolne do wykonywania obliczeń na potrzeby sztucznej inteligencji bezpośrednio na urządzeniu z wykorzystaniem dedykowanego układu zaprojektowanego w tym celu. NPU - Neural Processing Unit, a więc procesor neuronowy jest dodatkowym elementem obok klasycznego procesora CPU i układu graficznego GPU, który obecny jest w najnowszych komputerach projektowanych pod kątem wykorzystania z AI.
Procesory Apple Silicon od 2020 roku oraz najnowsze układy Intela, AMD i Qualcomm wprowadzane na rynek od 2024 roku poza klasycznym CPU i GPU mają również jednostki NPU.
Do czego wykorzystywana jest jednostka NPU?
NPU to wyspecjalizowany układ scalony, który wykorzystywany jest do wykonywania operacji neuronowych - głównie obliczeń związanych ze sztuczną inteligencją oraz uczeniem maszynowym. Procesory tego typu posiadają odmienną architekturę dostosowaną do tych specyficznych zadań, a także cechuje się wysoką wydajnością energetyczną, która obniża zużycie energii przez CPU i GPU odciążając te układy przed dodatkowymi zadaniami.
Jednostki NPU mają możliwości przetwarzania równoległego (są w stanie wykonywać wiele operacji jednocześnie), a dzięki optymalizacji architektury sprzętowej mogą wydajnie wykonywać zadania AI i ML, takie jak wnioskowanie i szkolenie. Jednostki NPU mogą być wykorzystywane do wykonywania różnych zadań AI, takich jak rozpoznawanie twarzy, a nawet trenowanie systemów AI.
GPU w zadaniach związanych z AI i ML
Do czasu debiutu pierwszych komputerów z jednostkami NPU, wszystkie operacje związane z AI i ML w większości spoczywały na jednostce GPU.
Układ GPU to specjalny procesor wykorzystywany do akceleracji zadań graficznych, takich jak przetwarzanie i renderowanie obrazów/wideo. Podobnie jak jednostki NPU, GPU obsługują przetwarzanie równoległe i mogą wykonywać biliony operacji na sekundę.
W komputerach osobistych bez NPU do działań związanych z AI i ML wykorzystywane są ukłądy graficzne. GPU większości przenośnych laptopów nie posiada odpowiednio wysokiej mocy obliczeniowej, aby dobrze radzić sobie ze specyficznym przetwarzaniem na rzecz sztucznej inteligencji. Skutkuje to zwiększonym zużyciem energii oraz obniżeniem ogólnej wydajności systemu.
NPU vs GPU
Zasadnicza różnica między jednostką NPU a GPU polega na tym, że ta pierwsza przyspiesza obciążenia związane ze sztuczną inteligencją i uczeniem maszynowym, podczas gdy druga przyspiesza przetwarzanie grafiki i zadania renderowania. Innymi słowy, każdy z nich jest wyspecjalizowanym procesorem dla określonej funkcji w urządzeniu.
Oprócz swoich wyspecjalizowanych funkcji, układy GPU są również coraz częściej wykorzystywane w innych ogólnych zadaniach obliczeniowych, w tym w szkoleniu systemów sztucznej inteligencji i głębokim uczeniu się.
Jednostki NPU stosowane są aby zwiększyć ogólną wydajność systemu i obniżyć zapotrzebowanie energetyczne dzięki natywnej akceleracji sprzętowej.
W rezultacie akceleracja sprzętowa jest standardem w nowoczesnych komputerach PC. Podstawowymi jej przykładami są procesor graficzny do przetwarzania grafiki i kartę dźwiękową do odtwarzania dźwięku.
Jednostka wydajności NPU
Zarówno wydajność GPU, jak i NPU jest mierzona w odniesieniu do liczby bilionów operacji, które procesor może wykonać w ciągu sekundy. Jest to zwykle oznaczane jako Tera (lub trylion) operacji na sekundę (TOPS). Dla przykładu, układy Qualcomm Snapdragon X Elite mogą pochwalić się nawet 45 TOPS (z samego NPU), podczas gdy flagowy desktopowy układ graficzny NVIDIA GeForce RTX 4090 ma wydajność ponad 1300 TOPS.
NPU to nowy element specyfikacji technicznej komputerów, tabletów i smartfonów
Podsumowując, NPU to procesor, który przyspiesza przetwarzanie neuronowe, podczas gdy GPU to wyspecjalizowany procesor do przetwarzania grafiki. Ze względu na ich architekturę przetwarzania równoległego, oba mogą wykonywać biliony operacji na sekundę.
Podczas gdy jednostki NPU są wyspecjalizowane tylko do zadań AI i ML, przypadki użycia GPU rozszerzyły się w ostatnich latach poza grafikę. Są one również wykorzystywane w innych aplikacjach ogólnego przeznaczenia, zwłaszcza w operacjach wymagających dużej ilości danych, takich jak trenowanie modeli sztucznej inteligencji i wydobywanie kryptowalut.
W ciągu najbliższych miesięcy na rynku pojawiać się będzie coraz więcej komputerów, smartfonów oraz tabletów wyposażonych w dedykowane jednostki NPU, które zwiększają wydajność wykonywania obliczeń na rzecz sztucznej inteligencji oraz uczenia maszynowego.
Na sam koniec przedstawiamy przykładowe scenariusze wykorzystania jednostki NPU do odciążenia CPU i GPU - identyfikacja obiektów ze zdjęć, dodawanie filtrów i wycinanie tła w czasie rzeczywistym podczas wideokonferencji, obsługa asystentów głosowych, transkrypcja mowy, rozpoznawanie danych biometrycznych czy ray tracing.
Ukryj panel
