Procesor AMD EPYC 9655P 2.6 GHz 384 MB L3 Socket SP5

Procesory AMD EPYC 5. generacji są zaprojektowane specjalnie w celu przyspieszenia obciążeń w centrach danych, chmurze i sztucznej inteligencji. Seria AMD EPYC 9005 zapewnia wysoką wydajność obliczeniową w przedsiębiorstwie dzięki konfiguracjom do 192 rdzeni oraz architekturze chipletowej zaprojektowanej pod kątem wysokiej przepustowości pamięci i pojemności.

Zalety

Procesory AMD EPYC 9005 oferują wysoką wydajność obliczeń całkowitoliczbowych i wnioskowania AI, wysoką efektywność energetyczną oraz obniżony całkowity koszt posiadania. Umożliwiają większą gęstość na serwer, mniejszą liczbę szaf i zużycie energii, a także opcje zoptymalizowane jako procesory hosta dla systemów akcelerowanych GPU, aby poprawić ogólny zwrot z inwestycji w system.

Kluczowe specyfikacje

• Architektura: rdzenie Zen 5 / Zen 5c
• Maksymalna liczba rdzeni: do 192 rdzeni na procesor
• Docelowe obciążenia: centrum danych, chmura, wnioskowanie AI oraz systemy hostujące GPU
• Wnioskowanie AI: zoptymalizowana wydajność dla modeli językowych (≈13 miliardów parametrów i mniej) oraz innych zadań AI wydajnych na CPU
• Hostowanie GPU: dostępne konfiguracje dostrojone jako procesory hosta dla serwerów wielo-GPU
• Gęstość: większa obsługa vCPU w porównaniu z porównywalnymi alternatywami 144-rdzeniowymi
• Efektywność: zaprojektowany dla lepszej efektywności energetycznej i niższego TCO

Sposób użycia

Procesory AMD EPYC 9005 należy wdrażać w serwerach rackowych lub kasetowych zgodnie z wytycznymi dostawcy platformy. Do zadań wnioskowania AI wyłącznie na CPU, takich jak modele językowe do ~13 miliardów parametrów, należy wybrać konfiguracje o wysokiej liczbie rdzeni. W przypadku obciążeń akcelerowanych GPU należy wybrać warianty EPYC 9005 zoptymalizowane jako procesory hosta i połączyć je ze zweryfikowanymi konfiguracjami GPU, aby zmaksymalizować przepustowość i wykorzystanie GPU. Należy stosować standardowe najlepsze praktyki centrów danych dotyczące chłodzenia, dostarczania zasilania, aktualizacji BIOS/oprogramowania układowego oraz przewodniki strojenia dostarczone przez dostawcę.

Zalecenia

W przypadku wnioskowania AI przy umiarkowanych rozmiarach modeli lub gęstych wirtualizowanych wdrożeń w chmurze, warto rozważyć opcje AMD EPYC 9005 w celu zmniejszenia powierzchni w szafach i kosztów energii; w przypadku intensywnego trenowania GPU lub wnioskowania dużych modeli, należy łączyć zoptymalizowane jako host warianty EPYC 9005 ze zweryfikowanymi serwerami wielo-GPU i sprawdzić wyniki testów porównawczych dostawcy dla konkretnego obciążenia.