NVIDIA prezentuje DGX Station, superkomputer stacjonarny dla programistów AI
firma NVIDIA ogłosił Stacja DGXnowy Superkomputer stacjonarny dla programistów AI, co pozwoli Ci uruchomić Duże modele językowe (LLM) lokalnie. To urządzenie jest potężniejsze niż DGX Spark (formalnie znany jako Projekt CYFRA) i jest przeznaczony do naukowcy, badacze i naukowcy zajmujący się danymi.
Stacja DGX jest zasilana przez GB300 Grace Blackwell Ultra Superchip stacjonarny, w tym 72-rdzeniowy procesor Grace и GPU Blackwell Ultra, połączony przez NVLink-C2C с o przepustowości 900 GB/s. Ten układ obsługuje 496 GB pamięci RAM LPDDR5X и 288GB HBM3e GPU-pamięć, który umożliwia uruchamianie modeli z 200 miliardami parametrów.
Superchip Blackwell Ultra zapewnia 1,5-krotny wzrost FLOPS-ów AI w porównaniu do zwykłego Blackwella i Optymalizacja FP4 zmniejsza obciążenie pamięci. Wbudowany Dysk SSD NVMe 1 lub 4 TB zapewnia szybki dostęp do danych i Karta sieciowa NVIDIA ConnectX-7 SmartNIC obsługuje Ethernet 10GbE.
System działa na System operacyjny NVIDIA DGX (zmodyfikowany Ubuntu) i wspiera Migracja LLM z lokalnego rozwoju do chmury. Stacja DGX trafi do sprzedaży pod koniec 2025 r za pośrednictwem producentów zewnętrznych.
Dla tych, którzy szukają rozwiązania budżetowego, RTX 5090 pozwala ci biegać modele do 30 miliardów parametrów, ale jego cena przekracza 4000 dolarów... Parzysty RTX 4060 Ti 16 GBwspierający LLM do 14 miliardów parametrów, koszty około 1000 dolarów.