QSike Tech Notes

퀄컴 HBC가 던진 질문

퀄컴의 HBC와 Dragonfly 로드맵은 HBM 중심의 AI 메모리 시장에 어떤 질문을 던질까요. AI 추론, LPDDR, 근접 메모리 컴퓨팅, 3D 패키징 관점에서 메모리 반도체 경쟁축 변화를 정리했습니다.

AI 가속기 칩과 적층 DRAM, 근접 메모리 컴퓨팅 구조, 데이터센터 배경을 함께 표현한 퀄컴 HBC 히어로 이미지

이 글은 퀄컴이 공개한 HBC(High Bandwidth Compute)와 Dragonfly 로드맵이 AI 메모리 경쟁에 던지는 질문을 설명하는 QSike Tech Notes 기술 해설입니다. 특정 기업 평가가 아니라 AI 추론, 메모리 대역폭, 전력 효율, 패키징 구조 이해에 초점을 둡니다.

HBM의 시대에 왜 퀄컴은 다른 길을 말할까

AI 반도체를 이야기하면 요즘은 자연스럽게 HBM이 먼저 나옵니다. GPU 성능이 아무리 좋아도 데이터를 제때 공급하지 못하면 연산 유닛은 놀게 됩니다. 그래서 AI 서버의 병목은 이제 “연산 성능”보다 “메모리 대역폭과 전력” 쪽으로 이동하고 있습니다.

그런데 이 흐름 속에서 퀄컴이 흥미로운 방향을 꺼냈습니다. 바로 HBC, High Bandwidth Compute입니다.

이름만 보면 HBM과 비슷해 보이지만, 방향은 조금 다릅니다. HBM이 메모리를 넓고 빠르게 붙여 대역폭을 키우는 방식이라면, 퀄컴의 HBC는 연산을 메모리 가까이 가져가는 구조에 가깝습니다. 데이터를 멀리 옮기는 비용을 줄이고, 메모리 병목을 다른 방식으로 풀어보겠다는 접근입니다.

Dragonfly는 퀄컴의 데이터센터 선언이다

퀄컴은 모바일 AP와 통신칩의 강자로 알려져 있습니다. 스냅드래곤, 저전력 설계, 통신 모델의 이미지가 강하죠. 하지만 2026년 6월 퀄컴 인베스터 데이에서 공개된 Dragonfly 로드맵은 퀄컴이 데이터센터 AI 시장을 더 이상 주변 사업으로 보지 않는다는 신호에 가깝니다.

공개된 내용의 핵심은 세 가지입니다.

첫째, Dragonfly C1000 CPU입니다. 퀄컴은 이 CPU를 AI 에이전트, 범용 서버, AI 헤드노드 워크로드용 데이터센터 CPU로 설명하고 있습니다. 250개 이상의 코어를 가진 칩렛 구조, 자체 설계한 Oryon CPU 코어(5GHz 이상 구동), 그리고 기존 서버 CPU 대비 성능당 전력 효율 2배 이상 개선을 목표로 강조했습니다. 상용화 시점은 2028년으로 제시됐습니다.

둘째, Dragonfly AI300 추론 가속기입니다. AI300은 2025년 10월에 발표된 AI200, AI250을 잇는 3세대 데이터센터 AI 추론용 가속기입니다. 특히 HBC Gen 2를 통합해 유효 메모리 대역폭을 크게 높이는 것을 목표로 합니다. 퀄컴은 기존 GPU 기반 구조 대비 메모리 대역폭당 전력 효율에서 4~8배 수준의 개선을 기대한다고 밝혔습니다. 샘플링 시점은 2028년입니다.

셋째, HBC 아키텍처입니다. HBC는 3D 적층(real-silicon) 기반의 근접 메모리 컴퓨팅 구조로 소개됐습니다. 퀄컴은 연산 칩을 DRAM과 3D로 적층해 배치하고, AI의 근본 병목을 “데이터 이동”으로 보며, 연산과 메모리를 더 가깝게 배치해 전력과 지연을 줄이려 합니다.

퀄컴이 공개한 설계 목표를 따르면, AI250은 HBC Gen 1을 사용해 카드당 133 TB/s(테라바이트/초) 수준의 유효 메모리 대역폭을 목표로 합니다. 이는 LPDDR5X 기반 AI200 대비 18배 증가한 수치로 제시됐고, AI300의 HBC Gen 2는 AI200 대비 54배 증가를 목표로 합니다. 퀄컴은 또 HBC가 HBM 대비 대역폭당 전력 효율에서 6배, 온칩 SRAM 대비 용량당 전력 효율에서 200배 개선을 설계 목표로 삼고 있다고 밝혔습니다. HBC Gen 1 기반 AI250 샘플링은 2027년 중반, AI300은 2028년으로 언급됐습니다.

이 수치들은 모두 퀄컴의 발표·설계 목표이며, 실제 워크로드에서 확인되려면 샘플과 독립 벤치마크가 필요합니다.

HBM과 HBC를 각각 GPU 옆 고대역폭 메모리와 근접 메모리 컴퓨팅 구조로 비교한 한글 인포그래픽 핵심은 대체가 아니라 보완이다. 학습 중심 HBM과 추론 중심 근접 메모리 구조는 서로 다른 병목을 겨냥한다.

HBC는 HBM의 대체재일까?

여기서 가장 중요한 질문은 이것입니다.

“HBC가 HBM을 대체할까?”

단기적으로는 그렇지 않을 가능성이 큽니다. 현재 AI 학습 시장은 여전히 HBM 중심입니다. 엔비디아 GPU, AMD GPU, 주요 AI 가속기 생태계는 HBM 공급 능력, 패키징, CoWoS·2.5D 인터포저, 전력·열 설계와 강하게 묶여 있습니다. 대규모 학습에서 HBM은 이미 검증된 표준에 가깝습니다.

하지만 HBC가 의미 없는 기술이라는 뜻은 아닙니다. 오히려 HBC는 AI 추론 시장이 커질수록 메모리 해법이 다양해질 수 있다는 점을 보여줍니다.

학습은 거대한 모델을 한 번에 많이 계산하는 쪽에 가깝습니다. 반면 추론, 특히 에이전트형 AI 추론은 수많은 요청을 낮은 지연시간과 낮은 전력으로 처리해야 합니다. 이때는 단순 최고 성능보다 성능당 전력, 메모리 접근 효율, 서버 전체 TCO가 더 중요해집니다.

퀄컴이 강한 분야도 바로 이 지점입니다. 모바일에서 쌓아온 저전력 설계, 온디바이스 AI, LPDDR 기반 메모리 활용, 시스템 단위 전력 최적화 경험을 데이터센터로 확장하려는 전략으로 볼 수 있습니다.

메모리 반도체에 주는 영향: 경쟁의 축이 넓어진다

HBC가 당장 HBM 시장을 무너뜨리지는 않습니다. 그러나 “AI 메모리 = HBM”이라는 단순한 공식에는 새로운 보완 축이 등장하고 있습니다.

AI 서버의 병목은 메모리 대역폭입니다. 지금까지 가장 직접적인 답은 HBM이었습니다. 더 넓은 버스, 더 높은 대역폭, 더 많은 적층, 더 큰 패키지. 이 방향은 앞으로도 중요합니다.

다만 HBC는 다른 질문을 던집니다.

데이터를 계속 멀리 옮기는 대신, 연산을 메모리 가까이 가져가면 안 될까?

이 질문이 커질수록 메모리 반도체의 경쟁축은 단순히 HBM 출하량이나 적층 단수만으로 설명하기 어려워집니다. 앞으로는 다음 요소가 함께 중요해질 가능성이 큽니다.

  • 메모리 대역폭당 전력 효율
  • 패키지 내 연산과 메모리의 거리
  • 3D 적층 및 본딩 기술
  • 메모리 컨트롤러와 연산 로직의 결합도
  • 추론 워크로드에 맞춘 메모리 계층 설계
  • 랙 단위 전력·냉각·네트워크 효율

즉, 메모리 회사 입장에서는 “좋은 DRAM을 많이 만든다”에서 한 걸음 더 나아가, AI 시스템 안에서 메모리가 어떤 방식으로 연산과 결합되는가가 중요해질 수 있습니다.

LPDDR 계열의 재평가

퀄컴의 접근에서 눈에 띄는 부분은 LPDDR 계열 메모리와 저전력 설계의 경험입니다.

HBM은 비싸고, 패키징 난도가 높고, 공급망도 제한적입니다. 대형 GPU와 AI 학습 클러스터에는 적합하지만, 모든 AI 추론 서버가 반드시 HBM 기반이어야 하는 것은 아닙니다.

추론 시장이 커지고, 비용과 전력 효율이 더 중요해지면 LPDDR 기반 구조나 HBC 같은 근접 메모리 구조가 일부 영역에서 매력적인 선택지가 될 수 있습니다.

이 경우 메모리 반도체 업체에는 두 가지 기회가 생깁니다.

첫째, 고성능 LPDDR의 서버 확장 가능성입니다. LPDDR은 원래 모바일·노트북 중심 메모리였지만, 전력 효율이 중요한 AI 추론 서버에서는 다시 주목받을 수 있습니다.

둘째, 커스텀 메모리 패키지 수요입니다. HBC가 실제로 확산되려면 단순 범용 DRAM이 아니라, 가속기와 가까운 위치에서 동작하는 특수 패키지·적층·인터페이스가 필요할 가능성이 큽니다. 이는 메모리 업체와 로직 업체의 공동 설계 영역을 넓힙니다.

고객 지형도 넓어진다

AI 메모리 시장은 지금까지 GPU 업체 중심으로 설명되는 경우가 많았습니다. 특히 HBM은 엔비디아, AMD, 대형 클라우드 사업자의 수요와 강하게 연결돼 있습니다.

하지만 퀄컴의 Dragonfly가 의미 있는 이유는 데이터센터 AI 시장의 플레이어가 더 다양해지고 있다는 점입니다.

퀄컴은 Dragonfly C1000 CPU와 관련해 메타와의 다세대 전략적 파트너십을 발표했습니다. C1000이 메타의 차세대 서버 플릿에 탑재될 예정이라는 점은, 데이터센터 고객들이 특정 GPU 플랫폼 하나에만 의존하지 않고 워크로드별로 CPU, 추론 가속기, 네트워크, 메모리 구조를 나눠 최적화하려는 흐름과 맞닿아 있습니다.

메모리 업체 입장에서는 고객 지형이 넓어질 수 있습니다. 기존 GPU 중심 HBM 고객, 자체 AI 칩을 만드는 클라우드 사업자, 퀄컴 같은 저전력 AI 가속기 업체, 추론 전용 랙 시스템 업체, 온디바이스 AI와 데이터센터를 함께 보는 플랫폼 기업이 모두 다른 요구를 낼 수 있습니다.

이 변화는 메모리 수요의 양뿐 아니라 제품 믹스에도 영향을 줍니다. HBM, 고성능 DDR, LPDDR, CXL 메모리, 커스텀 패키지, 3D 적층형 메모리 솔루션이 워크로드별로 나뉘어 쓰일 가능성이 커집니다.

HBC가 성공하려면 넘어야 할 벽

물론 HBC가 성공한다는 보장은 없습니다. 새로운 메모리 아키텍처는 항상 기술보다 생태계가 더 어렵습니다.

확인해야 할 포인트는 네 가지입니다.

첫째, 실제 성능입니다. 공개 수치는 목표와 주장에 가깝습니다. 실제 워크로드에서 GPU+HBM 구조 대비 어느 정도 효율을 보일지는 샘플과 벤치마크가 나와야 판단할 수 있습니다.

둘째, 소프트웨어 생태계입니다. AI 가속기는 하드웨어만 좋아서는 어렵습니다. 컴파일러, 런타임, 프레임워크 최적화, 모델 서빙 스택이 함께 따라와야 합니다.

셋째, 제조 난도입니다. 3D 적층 실리콘, 근접 메모리 컴퓨팅, 고밀도 패키징은 수율과 열 관리가 까다롭습니다. HBM도 어려운데, HBC 역시 쉬운 길은 아닙니다.

넷째, 고객 채택입니다. 데이터센터 고객은 보수적입니다. 전력 효율이 좋아도 안정성, 공급 지속성, 소프트웨어 지원, 총소유비용이 검증돼야 본격 도입됩니다.

HBM, LPDDR, CXL 메모리, 근접 메모리와 3D 패키징으로 넓어지는 AI 메모리 경쟁축을 정리한 한글 인포그래픽 앞으로는 좋은 DRAM을 많이 만드는 것뿐 아니라, AI 시스템 안에서 메모리가 연산과 어떻게 결합되는지가 중요해질 수 있다.

결론: 메모리 경쟁은 더 넓어진다

퀄컴의 HBC와 Dragonfly는 “HBM이 끝난다”는 이야기가 아닙니다. 오히려 반대로 봐야 합니다.

AI 시대에는 메모리가 더 중요해집니다. 다만 그 중요성이 HBM 하나로만 표현되지는 않을 수 있다는 뜻입니다.

앞으로의 메모리 반도체 경쟁은 세 갈래로 나뉠 가능성이 큽니다.

첫째, 학습과 초대형 모델 중심의 HBM 고도화입니다. HBM3E, HBM4, 더 높은 적층, 더 넓은 대역폭, 더 어려운 패키징 경쟁은 계속됩니다.

둘째, 추론과 저전력 서버 중심의 LPDDR·고효율 메모리 재평가입니다. 전력과 비용이 중요한 AI 추론에서는 HBM이 아닌 다른 메모리 구조도 의미를 가질 수 있습니다.

셋째, 로직과 메모리를 가까이 붙이는 근접 메모리·3D 패키징 경쟁입니다. HBC는 이 흐름을 상징하는 사례입니다. 앞으로 메모리 업체는 단품 DRAM 공급자를 넘어, AI 시스템 아키텍처의 일부로 들어가야 할 가능성이 커집니다.

퀄컴이 Dragonfly로 보여준 메시지는 분명합니다.

AI 인프라의 다음 병목은 단순히 더 빠른 칩이 아닙니다. 데이터를 어디에 두고, 얼마나 적은 전력으로, 얼마나 빨리 연산 유닛에 먹일 수 있느냐입니다.

그 질문의 중심에 다시 메모리 반도체가 있습니다.


한 문장 요약

퀄컴의 HBC와 Dragonfly는 HBM을 당장 대체하기보다, AI 추론 시대에 메모리 경쟁축이 “대역폭”에서 “대역폭당 전력·근접 연산·패키징 구조”로 넓어지고 있음을 보여준다.

독자에게 던질 질문

AI 메모리 시장은 앞으로도 HBM 중심으로만 흘러갈까요, 아니면 추론 워크로드 확대와 함께 LPDDR·근접 메모리·커스텀 패키지가 새로운 축으로 커질까요?


다음에 읽을 글

퀄컴 HBC가 던진 질문을 이해했다면, HBM·HBF·HBS가 각각 어떤 메모리 계층을 가리키는지도 함께 보면 좋습니다.
HBM, HBF, HBS 차이 쉽게 보기

체크포인트

  • HBC가 HBM을 당장 대체한다는 주장이 아니라, AI 추론에서 메모리 해법이 다양해질 수 있다는 신호임을 구분했는가?
  • Qualcomm의 133 TB/s, 18배, 54배, 6배, 200배 수치가 실제 벤치마크가 아니라 발표·설계 목표라는 점을 확인했는가?
  • AI 메모리 경쟁축이 HBM 고도화, LPDDR 재평가, CXL, 근접 메모리·3D 패키징으로 넓어질 수 있음을 이해했는가?
  • 메모리 업체의 역할이 단품 DRAM 공급에서 AI 시스템 아키텍처 공동 설계로 확장될 수 있음을 봤는가?

확인한 출처 / 근거

본문의 퀄컴 성능 수치는 발표·설계 목표이며 실제 독립 벤치마크로 확인되지 않았습니다. 150억 달러는 2029 회계연도 회사 목표이며 확정 매출이 아닙니다. “HBC가 HBM을 대체한다”는 단정은 피했습니다.