Zwiększ wydajność systemu AMD Ryzen dzięki technologii ASUS AI Cache Boost

Duże modele językowe (LLM) wymagają znacznej ilości pamięci – tak dużej, że entuzjaści sztucznej inteligencji często korzystają z konfiguracji wieloprocesorowych (multi-GPU), aby zwiększyć dostępną pamięć wideo dla swoich aplikacji AI. Jednak ze względu na niezwykle dużą liczbę modeli LLM, nawet to podejście ma swoje ograniczenia. W niektórych przypadkach GPU (GPU) przesyła obliczenia do procesora centralnego (CPU), a następnie na pierwszy plan wysuwa się wydajność pamięci podręcznej procesora i pamięci o swobodnym dostępie (DRAM). Oznacza to, że dla wydajności aplikacji AI nie tylko GPUale także cały łańcuch połączeń GPU с CPU i modułów DRAM. W związku z tym istnieją możliwości optymalizacji tych komponentów w celu zwiększenia wydajności.

Dokładnie to zostało zademonstrowane podczas badań w laboratoriach badawczo-rozwojowych firmy ASUS, wykorzystujących najnowsze procesory AMD Ryzen. AMD niedawno wprowadziło dwa nowe procesory Ryzen z technologią AMD 3D V-Cache – AMD Ryzen 9 9950X3D i AMD Ryzen 9 9900X3D, przenosząc serię Ryzen na nowy poziom. Po szeroko zakrojonych testach różnych optymalizacji w szerokim zakresie obciążeń, zidentyfikowano zestaw ustawień, które zapewniają wymierne korzyści dla aplikacji AI. Wyniki tych badań zostały wdrożone w nowej funkcji BIOS – AI Cache Boost. W rzeczywistych scenariuszach z dużymi systemami LLM, AI Cache Boost zapewnia wzrost wydajności nawet o 12,75%.

Gotowy na procesory AMD Ryzen z technologią AMD 3D V-Cache

Aby aktywować funkcję AI Cache Boost, potrzebujesz płyty głównej ASUS AMD serii 800 i procesora AMD Ryzen 9000 Granite Ridge. W BIOS-ie UEFI przejdź do zakładki Extreme Kliknij Tweaker i włącz odpowiednią funkcję, a system będzie gotowy do pracy.

Funkcja AI Cache Boost umożliwia szereg optymalizacji, w tym podkręcenie częstotliwości zegara Infinity Fabric (FCLK) do 2100 MHz. Zwiększenie częstotliwości FCLK jest kluczowym czynnikiem, ponieważ zwiększa przepustowość między rdzeniami. CPU, moduły pamięci podręcznej i pamięci – co jest szczególnie ważne przy pracy z dużymi LLM-ami.

Uwaga dla użytkowników korzystających z jednego systemu zarówno do aplikacji AI, jak i gier: włączenie funkcji AI Cache Boost praktycznie nie wpływa na wydajność w grach. Funkcję można pozostawić włączoną podczas przełączania między różnymi typami obciążeń. W razie potrzeby częstotliwość FCLK można ręcznie zmniejszyć do bardziej konserwatywnej wartości po aktywacji, aby poprawić stabilność w grach.

Wydajność dzięki funkcji AI Cache Boost

Konfiguracja testowa obejmowała płytę główną ROG Crosshair X870E Hero, kartę graficzną NVIDIA GeForce RTX 5090 i 2 x 16 GB pamięci RAM DDR5. Przetestowano kilka procesorów z technologią AMD 3D V-Cache: Ryzen 9 9950X3D, 9900X3D i 9800X3D. Pierwszym testem był Geekbench AI z frameworkiem ONNX DirectML, który mierzy wydajność. GPU.

W zależności od konfiguracji, wzrost wydajności wahał się od 4% do 8%. Jest to istotne dla użytkowników, którzy na co dzień pracują z obciążeniami AI, zwłaszcza biorąc pod uwagę łatwość aktywacji tej funkcji.

Ponieważ seria NVIDIA RTX 50 jest nowością na rynku, przeprowadzono dodatkowe testy na poprzedniej generacji kart graficznych, w szczególności na kartach NVIDIA RTX 4090.

W teście AI Geekbench z RTX 4090 Aktywacja funkcji AI Cache Boost pozwoliła nam osiągnąć wzrost wydajności nawet o 7,57% AMD Ryzen 7 9800X3D, który uzyskał najwyższy wynik spośród testowanych procesorów.

Podobną dynamikę wykazał test porównawczy UL Procyon AI Computer Vision, w którym Ryzen 7 9800X3D osiągnięto 12,75% poprawę wydajności po włączeniu tej funkcji.

Dodawanie trybu gry Turbo

Najlepsze wyniki Ryzen 7 9800X3D Testy pokazują, że AMD 3D V-Cache zapewnia większą przewagę w niektórych scenariuszach AI niż większa liczba rdzeni w procesorach Ryzen 9 9950X3D i 9900X3D. Aby uzyskać bardziej szczegółową analizę, przeprowadzono dodatkowe testy z włączonymi trybami AI Cache Boost i Turbo Game Mode.

Tryb Turbo Game, dostępny na płytach głównych ASUS AM5, optymalizuje system na dwa sposoby:

1. Wyłącza drugi układ CCD (Core Complex Die) – istotne dla procesorów z dwoma układami CCD. Pozwala to zmniejszyć opóźnienia w aplikacjach, które nie wykorzystują wszystkich rdzeni.
2. Wyłącza się SMT (Wielowątkowość jednoczesna) – wielowątkowość jednoczesna. W niektórych scenariuszach wyłączenie SMT umożliwia zwiększenie efektywności w obciążeniach nie wymagających dużej liczby wątków.

Ze względu na znaczący wpływ na wydajność wielowątkową, tryb Turbo Game Mode zaleca się włączać tylko wtedy, gdy jest to konieczne.

Dzięki włączonym funkcjom AI Cache Boost i Turbo Game Mode procesor Ryzen 9 9950X3D zapewnia najwyższy wzrost wydajności spośród wszystkich testowanych opcji — o 19,85% w porównaniu do ustawień podstawowych.

Wyniki te sugerują, że w przypadku użytkowników aplikacji AI, które nie wykorzystują wszystkich dostępnych strumieni, CPUPołączenie dwóch funkcji BIOS-u może być bardzo korzystne. Obie funkcje są dostępne na karcie Extreme Tweaker BIOS, dzięki czemu korzystanie z nich jest wygodne nawet dla mniej doświadczonych użytkowników.

Ambicje AI osiągają nowy poziom dzięki ASUS i AI Cache Boost

Procesory AMD Ryzen 9 9950X3D i 9900X3D otwierają nowe możliwości dla entuzjastów komputerów PC. Dzięki odpowiednio 32 i 24 wątkom zapewniają wysoką wydajność wielowątkową i korzystają z technologii AMD 3D V-Cache.

Płyty główne ASUS AMD z serii 800 pomagają zmaksymalizować potencjał tych procesorów poprzez optymalizację BIOS-u. W szczególności AI Cache Boost to bardzo skuteczne narzędzie do zwiększania wydajności w procesach AI z wykorzystaniem LLM.

Aby w pełni wykorzystać potencjał nowych procesorów AMD, warto zapoznać się z pełną ofertą płyt głównych ASUS AM5, od flagowych X870E i X870 po bardziej przystępne cenowo B850 i B840.