Nowy „protokół CXL” firmy Panmnesia będzie wyposażony w procesory graficzne AI korzystające z pamięci DRAM i dysków SSD o niskim opóźnieniu

Panmnesia to firma, o której prawdopodobnie nie słyszałeś do dziś, ale startup KAIST zaprezentował swój najnowocześniejszy adres IP, który umożliwia dodanie pamięci zewnętrznej do procesorów graficznych AI za pośrednictwem protokołu CXL przez PCIe, co umożliwia nowy poziom pojemności pamięci dla obciążeń AI .

ZOBACZ GALERIĘ – 3 ZDJĘCIA

Obecne floty procesorów graficznych AI i akceleratorów AI wykorzystują pamięć wbudowaną – zwykle superszybką HBM – ale jest ona ograniczona do mniejszych ilości, takich jak 80 GB w obecnym procesorze graficznym NVIDIA Hopper H100 AI. Oferta układów AI nowej generacji AMD i NVIDIA wprowadzi do 141 GB HBM3E (procesor graficzny H200 AI od NVIDIA) i do 192 GB HBM3E (procesor graficzny B200 AI od NVIDIA i Instinct MI300X od AMD).

Ale teraz nowy CXL IP firmy Panmnesia umożliwi procesorom graficznym dostęp do pamięci DRAM i dysków SSD, zwiększając pojemność pamięci wbudowanej pamięci HBM… bardzo sprytnie. Startup Instytutu Południowokoreańskiego (KAIST) zapewnia łączność za pomocą CXL poprzez łącza PCIe, co oznacza, że masowa adaptacja tej nowej technologii jest łatwa. Zwykłe akceleratory AI nie mają podsystemów wymaganych do łączenia się i używania CXL do bezpośredniego rozszerzania pamięci, opierając się na rozwiązaniach takich jak UVM (Unified Virtual Memory), które są wolniejsze, co całkowicie mija się z celem… i tu pojawia się nowy adres IP Panmnesia grać.

Panmnesia porównała swoje własne rozwiązanie „CXL-Opt” z prototypami firm Samsung i Meta, które oznaczono jako „CXL-Proto”. CXL-Opt ma znacznie mniejsze opóźnienia w obie strony, czyli czas potrzebny na przesłanie danych z procesora graficznego do pamięci i z powrotem. Nowy CXL-Pro firmy Panmnesia charakteryzował się dwucyfrowym opóźnieniem wynoszącym nanosekundy w porównaniu z opóźnieniami wynoszącymi 250 ns u konkurencji. Czas wykonania CXL-Opt jest również znacznie krótszy niż UVM, ponieważ osiąga poprawę wydajności IPC o 3,22x w porównaniu z UVM. Imponujący.

Nowy „protokół CXL” firmy Panmnesia będzie wyposażony w procesory graficzne AI korzystające z pamięci DRAM i dysków SSD o niskim opóźnieniu 21

Nowe rozwiązanie CXL-Pro firmy Panmnesia może wywołać furorę na rynku procesorów graficznych AI i akceleratorów AI, działając jako rozwiązanie pomiędzy układaniem w stosy układów pamięci HBM a przejściem w stronę znacznie bardziej wydajnego rozwiązania. Panmnesia jest jedną z pierwszych firm oferujących nowy adres IP CXL, więc ciekawie będzie zobaczyć, jak dalej pójdziemy.