메타 Vistara와 CXL 메모리, HBM을 대체할까

메타가 ISCA 2026에서 공개한 Vistara는 구형 DDR4를 CXL로 재활용해 서버 메모리 용량을 늘리는 기술입니다. HBM을 대체하는 것이 아니라, CPU 메모리 계층을 보완하는 역할을 기술 관점에서 정리합니다.

이 글은 메타 Vistara 논문과 공개 보도를 바탕으로 CXL 메모리 확장이 AI 서버 메모리 계층에 어떤 의미를 갖는지 설명하는 QSike Tech Notes 기술 해설입니다. 특정 기업 평가가 아니라 AI 인프라 구조 이해에 초점을 둡니다.

요즘 메모리 시장을 보면 한 가지 질문이 자주 나옵니다.
”이렇게 비싸진 메모리를 계속 새로 사야만 할까?”

AI 서버가 늘면서 HBM뿐 아니라 DDR 계열 메모리까지 수요가 커졌습니다. 서버용 메모리 가격은 부담이 됐고, 데이터센터를 크게 운영하는 기업일수록 메모리 비용과 활용률을 동시에 고민할 수밖에 없습니다. 이런 흐름 속에서 메타가 공개한 기술이 바로 Vistara입니다.

처음 이름만 들으면 새로운 AI 가속기나 HBM 대체 기술처럼 느껴질 수 있습니다. 하지만 Vistara의 핵심은 조금 다릅니다. 메타가 이미 사용하던 구형 서버에서 DDR4 메모리를 회수해, 새로운 서버에서 다시 쓸 수 있게 만든 CXL 2.0 기반 Type 3 메모리 확장 ASIC에 가깝습니다.

쉽게 말하면, 서버는 3–5년 쓰고 교체되더라도 메모리는 7–10년까지 더 쓸 수 있다는 발상입니다. 서버 본체는 한물갔지만, 그 안에 있던 DDR4까지 버릴 필요는 없다는 것이죠. 메타는 이 DDR4를 새 서버에 붙이기 위해 별도의 CXL 메모리 확장 칩과 카드를 설계했습니다.

CXL은 CPU와 메모리, 가속기 같은 장치를 연결하는 인터커넥트 규격입니다. PCIe 위에서 동작하면서 외부에 붙은 메모리도 CPU가 시스템 메모리처럼 접근할 수 있게 해 줍니다. Vistara 칩은 한쪽으로는 CXL 인터페이스를, 다른 한쪽으로는 DDR4 메모리 컨트롤러를 갖고 있습니다. CPU가 보낸 메모리 요청을 DDR4 명령으로 바꿔 주는 통역사 역할을 하는 셈입니다.

메타가 공개한 구성은 꽤 구체적입니다. CPU에 직접 연결된 빠른 DDR5 768GB가 있고, Vistara 카드 두 장을 통해 재활용 DDR4 256GB를 추가합니다. 이렇게 서버 한 대의 메모리를 총 1TB로 만드는 구조입니다.

Vistara는 새 고속 메모리를 만드는 기술이라기보다, 버려질 수 있는 DDR4를 CXL 계층으로 다시 붙이는 데이터센터 최적화에 가깝다.

물론 이 DDR4 확장 메모리는 빠르지 않습니다. 로컬 DDR5의 피크 대역폭이 초당 약 614GB 수준이라면, CXL로 연결된 DDR4 쪽 피크 대역폭은 약 76GB 수준으로 제시됩니다. 피크 대역폭 기준으로 약 8배 차이가 나고, PCIe 링크를 거치기 때문에 지연시간도 더 길 수밖에 없습니다.

그런데도 메타는 일부 머신러닝 추론 서버에서 필요한 서버 수를 최대 25% 줄였고, 분산 캐시 서비스에서는 평균 처리 지연을 29% 낮췄다고 보고했습니다. 여기서 중요한 점은 CXL 메모리가 빨라서 성능이 오른 것이 아니라는 점입니다.

비교 대상이 DDR5가 아니라 플래시나 원격 저장장치라면 이야기가 달라집니다. 메모리가 부족하면 데이터는 더 느린 플래시나 원격 스토리지로 밀려납니다. 모델 파라미터도 더 많은 서버에 나눠 담아야 합니다. 느린 DDR4라도 DRAM 계층에 데이터를 붙잡아 둘 수 있다면, 더 큰 손실을 피할 수 있습니다. Vistara의 가치는 바로 이 지점에 있습니다.

그래서 “HBM 다음은 CXL”이라는 표현은 조심해야 합니다. HBM과 CXL은 같은 문제를 푸는 기술이 아닙니다. HBM은 GPU가 계산 중에 필요한 데이터를 빠르게 공급하기 위한 고대역폭 메모리입니다. 모델 가중치, 활성값, KV 캐시처럼 반복 접근이 많고 지연시간에 민감한 데이터는 HBM에 가까이 있어야 합니다.

반면 CXL은 더 바깥쪽 메모리 계층을 다루는 기술입니다. 접근 빈도가 낮은 데이터, 당장 쓰지 않는 모델 조각, 대용량 캐시, 추천 시스템의 거대한 임베딩 테이블처럼 “용량이 먼저 부족해지는” 워크로드에 더 잘 맞습니다. 메타의 사례도 GPU의 HBM을 CXL로 대체한 것이 아니라, 추천 시스템과 분산 추론에 쓰이는 CPU 메모리 서버의 용량을 늘린 것으로 보는 편이 정확합니다.

그렇다면 Vistara는 메모리 부족 문제를 해결할 수 있을까요? 일부는 맞고, 일부는 아닙니다.

메타처럼 이미 보유한 DDR4 재고가 크고, 자체 서버 설계와 운영체제 튜닝까지 할 수 있는 기업에는 의미가 큽니다. 새 DDR5를 추가 구매하지 않고도 일부 용량 문제를 완화할 수 있기 때문입니다. 하지만 CXL이 DRAM 공급 자체를 늘려 주는 것은 아닙니다. 새 CXL 모듈을 사면 그 안에도 결국 DRAM이 들어갑니다. Vistara는 공급 부족을 없애는 기술이라기보다, 이미 만들어진 메모리를 덜 버리고 더 오래 쓰는 기술에 가깝습니다.

비용도 완전히 공짜는 아닙니다. Vistara 카드, 별도 전력, 냉각, 장애 감시, 펌웨어 관리가 필요합니다. 메타 논문에 따르면 서버당 CXL 확장부(칩 2개와 DDR4 모듈 8개)가 약 50W의 전력을 추가로 쓴다고 합니다. 대규모 데이터센터에서는 이 또한 무시하기 어렵습니다. 따라서 경제성은 “얼마나 많은 DDR4를 재활용할 수 있는가”, “그 DDR4를 느린 계층으로 써도 되는 워크로드가 얼마나 많은가”에 달려 있습니다.

또 하나 조심할 표현은 “메모리 풀”입니다. Vistara는 여러 서버가 하나의 거대한 메모리 공간을 함께 쓰는 구조라기보다, 서버마다 자기 전용 보조 물탱크를 하나씩 붙인 구조에 가깝습니다. 진짜 메모리 풀링을 하려면 CXL 스위치, 패브릭 매니저, 주소 할당, 접근 권한, 장애 격리까지 함께 해결해야 합니다. 공유할 수 있다는 것과 예측 가능한 성능으로 공유할 수 있다는 것은 전혀 다른 문제입니다.

소프트웨어 복잡성도 남습니다. CXL을 붙이면 애플리케이션을 크게 수정하지 않아도 일반 메모리처럼 보일 수는 있습니다. 하지만 복잡성이 사라지는 것은 아닙니다. 운영체제는 빠른 DDR5와 느린 CXL DDR4 사이에서 어떤 페이지를 어디에 둘지 판단해야 합니다. 자주 쓰는 데이터는 가까운 DDR5에 두고, 오래 쓰지 않는 데이터는 먼 CXL 메모리로 내려야 합니다. 다시 자주 쓰이면 끌어올려야 합니다.

AI 서버에서는 이 문제가 더 복잡해집니다. GPU의 HBM, CPU DDR5, CXL 메모리, 플래시가 여러 계층으로 겹치기 때문입니다. AI 런타임은 모델의 데이터 접근 패턴을 알고 있지만 서버 전체 메모리 상황을 모두 보지는 못합니다. 운영체제는 서버 전체 자원은 보지만 어떤 텐서가 곧 다시 필요할지 정확히 알기 어렵습니다. 결국 CXL은 용량을 늘려 주는 동시에 데이터 배치 문제를 새로 만드는 기술이기도 합니다.

핵심은 HBM과 CXL 중 하나를 고르는 문제가 아니다. 데이터의 접근 빈도와 지연 민감도에 따라 어느 계층에 둘지 나누는 문제가 된다.

한국 기업이 이 메모리 생태계에서 맡을 수 있는 역할도 넓어집니다. 삼성전자는 CMM-D(CXL Memory Module-DDR) 제품군을 공개해 왔고, CXL 3.1 기반 차세대 모듈 양산을 준비하고 있습니다. SK하이닉스도 DDR5 기반 CXL 메모리와 관련 소프트웨어 도구를 공개했으며, CXL 3.2 모듈을 선보인 바 있습니다. 국내 팹리스인 파네시아(Panmnesia)는 CXL 컨트롤러와 패브릭 스위치를 설계하는 데 집중하고 있으며, ISCA 2026에서 관련 논문을 발표했습니다.

확장되는 영역은 단순히 “메모리를 더 판다”에만 있지 않습니다. 메모리 컨트롤러, CXL 스위치, 데이터 온도 측정, 페이지 배치 소프트웨어, 펌웨어와 장애 관리까지 묶어 시스템으로 제공하는 능력이 중요해집니다.

정리하면, Vistara는 HBM을 대체하는 기술이 아닙니다. AI 연산을 폭발적으로 빠르게 만드는 기술도 아닙니다. 다 쓴 서버에서 DDR4를 다시 꺼내 쓰고, 메모리 용량 부족 때문에 낭비되던 서버 자원을 더 활용하게 만드는 기술입니다.

따라서 메모리 수요 전망도 이중적으로 봐야 합니다. 단기적으로는 DDR4 재활용과 CXL 확장이 일부 신규 DDR5 수요를 줄이는 효과를 낼 수 있습니다. 하지만 AI 서비스가 커질수록 HBM처럼 빠른 메모리와 CXL처럼 용량을 보완하는 메모리 계층은 함께 필요해질 가능성이 큽니다.

앞으로 중요한 질문은 “CXL이 HBM을 대체하느냐”가 아닙니다.
더 정확한 질문은 “어떤 데이터는 HBM에 두고, 어떤 데이터는 DDR5에 두고, 어떤 데이터는 CXL로 내려도 되는가”입니다.

AI 인프라 경쟁은 이제 단순히 더 많은 메모리를 사는 단계에서, 여러 종류의 메모리를 어떻게 나눠 쓰느냐의 단계로 넘어가고 있습니다. 메타 Vistara가 보여준 변화는 바로 그 지점입니다.

한 문장 요약

메타 Vistara는 HBM 대체재가 아니라, 구형 DDR4를 CXL로 재활용해 데이터센터의 메모리 용량과 서버 활용률을 높이려는 기술이다.

독자 질문

여러분은 CXL이 메모리 부족의 해법이 될 수 있다고 보시나요, 아니면 대형 데이터센터에 한정된 최적화 기술이라고 보시나요?

다음에 읽을 글

CXL이 HBM을 대체하지 않는다는 점을 더 선명하게 보려면, 먼저 HBM이 AI 서버에서 맡는 역할을 함께 보면 좋습니다.
AI 서버 메모리 병목, 왜 HBM이 중요한가

체크포인트

• Vistara가 HBM 대체 기술이 아니라 DDR4 재활용 기반 CXL 확장 기술이라는 점을 구분했는가?
• DDR5와 CXL DDR4의 피크 대역폭 차이가 왜 워크로드 배치 문제로 이어지는지 이해했는가?
• CXL이 DRAM 공급 자체를 늘리는 기술이 아니라 기존 메모리 활용률을 높이는 기술이라는 점을 확인했는가?
• 한국 메모리·컨트롤러·스위치 생태계에서 하드웨어와 소프트웨어가 함께 중요해지는 이유를 봤는가?

확인한 출처 / 근거

• Vistara 논문: “Vistara: Making CXL Real—Full Path from ASIC Design and OS Support to Hyperscale Deployment.” ISCA 2026 Industry Session, June 29, 2026, Raleigh, NC, USA. 논문 PDF
• Panmnesia, “Panmnesia Presents Silicon-Proven CXL 3.2 Controller and Switch at ISCA 2026” — 논문과 실리콘 검증 결과에 관한 공식 기술 개요.
• The Register, “Zuck saves Meta bucks by reusing memory from old servers with a custom CXL ASIC” — Vistara의 실제 배치 맥락.
• Tom’s Hardware, “Meta fights soaring hardware costs by reusing old DDR4 server memory…” — DDR4 재사용 구조의 교차 확인.
• Blocks & Files, “Panmnesia boosts CXL scale with fabric switching. Meta repurposes old DRAM with CXL” — 두 ISCA 발표의 비교 보도.
• ISCA 2026 발표 영상