GPU 업계의 흥미로운 발전에서 PCIe 장착 메모리는 GPU 메모리 용량과 성능에 대한 우리의 생각을 바꿀 예정입니다. 한국 KAIST 연구소의 지원을 받는 회사인 Panmnesia는 GPU가 PCIe 인터페이스를 통해 외부 메모리 리소스를 활용할 수 있도록 하는 Compute Express Link(CXL)라는 기술을 개발하고 있습니다.
전통적으로 RTX 4060 과 같은 GPU는 온보드 VRAM에 의해 제한되어 AI 교육, 데이터 분석 및 고해상도 게임과 같은 메모리 집약적 작업에서 성능에 병목 현상을 일으킬 수 있습니다. CXL은 고속 PCIe 연결을 활용하여 외부 메모리 모듈을 GPU에 직접 연결합니다.
이 방법은 지연 시간이 짧은 메모리 확장 옵션을 제공하며 성능 지표는 기존 방법에 비해 크게 향상된 것을 보여줍니다. 보고서에 따르면, 새로운 기술은 두 자릿수 나노초의 지연 시간을 달성했는데, 이는 표준 SSD 기반 솔루션에 비해 상당히 감소된 수치입니다.
게다가 이 기술은 기존 RAM에만 국한되지 않습니다. SSD는 GPU 메모리를 확장하는 데에도 사용할 수 있어 다양하고 확장 가능한 솔루션을 제공합니다. 이 기능을 통해 RAM의 속도와 SSD의 용량을 결합하여 성능과 효율성을 더욱 향상시키는 하이브리드 메모리 시스템을 만들 수 있습니다.
CXL은 PCIe 링크에서 작동하지만 이 기술을 GPU와 통합하는 것은 간단하지 않습니다. GPU에는 DRAM 또는 SSD 엔드포인트를 지원하는 데 필요한 CXL 로직 패브릭 및 하위 시스템이 부족합니다. 따라서 단순히 CXL 컨트롤러를 추가하는 것은 불가능합니다.
GPU 캐시 및 메모리 시스템은 통합 가상 메모리(UVM)를 통한 확장만 인식합니다. 그러나 Panmnesia가 수행한 테스트에 따르면 페이지 오류 중 호스트 런타임 개입으로 인한 오버헤드와 페이지 수준의 비효율적인 데이터 전송으로 인해 테스트된 GPU 커널 중에서 UVM의 성능이 가장 낮은 것으로 나타났습니다.
이 문제를 해결하기 위해 Panmnesia는 모든 주요 CXL 프로토콜을 지원하는 일련의 하드웨어 계층을 개발하여 통합 컨트롤러로 통합했습니다. 이 CXL 3.1 호환 루트 콤플렉스에는 PCIe를 통한 외부 메모리용 여러 루트 포트와 호스트 관리 장치 메모리 디코더가 있는 호스트 브리지가 포함되어 있습니다. 이 디코더는 GPU의 시스템 버스에 연결하고 시스템 메모리를 관리하여 로드/저장 명령을 통해 확장된 스토리지에 대한 직접 액세스를 제공하여 UVM 문제를 효과적으로 제거합니다.
이 기술의 의미는 광범위합니다. AI 및 기계 학습의 경우 더 많은 메모리를 추가할 수 있다는 것은 더 큰 데이터 세트를 더 효율적으로 처리하고 훈련 시간을 가속화하며 모델 정확도를 향상시키는 것을 의미합니다. 게임에서 개발자는 VRAM 제한의 제약을 받지 않고 그래픽 충실도와 복잡성의 한계를 뛰어넘을 수 있습니다.
데이터 센터 및 클라우드 컴퓨팅 환경의 경우 Panmnesia의 CXL 기술은 기존 인프라를 업그레이드하는 비용 효율적인 방법을 제공합니다. PCIe를 통해 추가 메모리를 연결함으로써 데이터 센터는 광범위한 하드웨어 점검 없이 컴퓨팅 성능을 향상시킬 수 있습니다.
잠재력에도 불구하고 Panmnesia는 업계 전반에 채택되는 데 큰 어려움을 겪고 있습니다. AMD와 Nvidia의 최고 그래픽 카드는 CLX를 지원하지 않으며, 결코 지원하지 않을 수도 있습니다. 또한 업계 플레이어가 GPU용 자체 PCIe 연결 메모리 기술을 개발할 가능성도 높습니다. 그럼에도 불구하고 Panmnesia의 혁신은 GPU 메모리 병목 현상을 해결하는 데 있어서 한 단계 더 발전했음을 의미하며 고성능 컴퓨팅 및 게임에 큰 영향을 미칠 수 있는 잠재력을 갖고 있습니다.