QSike Tech Notes

세레브라스와 엔비디아, 무엇이 다른가

세레브라스는 웨이퍼 스케일 칩 내부 통합으로 통신 병목을 줄이고, 엔비디아는 GPU 클러스터·인터커넥트·소프트웨어 생태계로 확장 성능을 확보하는 방식입니다. 두 설계 철학의 차이를 구조적으로 비교합니다.

Cerebras WSE와 NVIDIA Blackwell 설계 철학을 대비한 썸네일

AI 반도체를 이야기할 때 대부분의 출발점은 엔비디아 GPU입니다. H100, B200, GB200 같은 이름은 이제 AI 데이터센터 관련 뉴스에서 거의 기본 단어처럼 등장합니다. 그런데 이 시장을 조금 더 들여다보면 전혀 다른 접근을 하는 회사가 있습니다. 바로 세레브라스입니다.

두 회사는 모두 AI 학습과 추론을 빠르게 만들겠다는 목표를 갖고 있습니다. 하지만 기술적 출발점은 꽤 다릅니다. 엔비디아가 여러 개의 강력한 GPU를 고속 네트워크로 묶어 거대한 AI 시스템을 만드는 방식이라면, 세레브라스는 웨이퍼 한 장에 가까운 초대형 칩을 만들어 “칩 안에서 최대한 크게 해결하자”는 쪽에 가깝습니다.

엔비디아: GPU를 잘게 만들고 크게 연결한다

엔비디아의 강점은 범용성과 생태계입니다. GPU 하나의 성능도 중요하지만, 실제 AI 데이터센터에서는 GPU 여러 장을 서버 안에서 묶고, 다시 수십·수백·수천 개 단위로 연결해 하나의 거대한 학습 클러스터처럼 사용합니다.

Blackwell 세대의 핵심도 이 방향 위에 있습니다. NVIDIA는 Blackwell GPU가 2개의 레티클 한계 다이(reticle-limited die)를 하나의 GPU처럼 연결하고, Tensor Core, Transformer Engine, FP4 같은 저정밀 연산, NVLink와 NVLink Switch를 통해 대규모 모델 학습과 추론을 확장한다고 설명합니다. Blackwell B200은 2,080억 개 트랜지스터를 TSMC 4NP 공정으로 제조하며, 두 다이 사이를 10 TB/s 인터커넥트로 묶습니다. 즉 엔비디아의 본질은 “GPU + 메모리 + 인터커넥트 + 소프트웨어”를 하나의 플랫폼으로 묶는 데 있습니다.

이 방식의 장점은 명확합니다. 다양한 모델과 프레임워크를 돌릴 수 있고, CUDA 생태계가 넓으며, 서버·클라우드·라이브러리·개발자 기반이 이미 두껍습니다. AI 인프라를 구매하거나 임대하려는 기업 입장에서는 기술 자체보다 “지금 당장 운영 가능한가”가 중요한데, 엔비디아는 이 지점에서 확고한 장점을 갖고 있습니다.

다만 구조적 과제도 있습니다. 모델이 커질수록 GPU 사이 통신, HBM 용량과 대역폭, 네트워크 토폴로지, 전력과 냉각이 병목이 됩니다. 그래서 엔비디아의 세대 진화는 단순히 연산 FLOPS만 올리는 것이 아니라 NVLink, InfiniBand, Grace CPU, 랙 스케일 설계까지 함께 커지는 방향으로 가고 있습니다.

세레브라스: 웨이퍼 하나를 칩처럼 쓴다

세레브라스는 접근이 다릅니다. WSE, 즉 Wafer Scale Engine은 이름 그대로 웨이퍼 스케일 칩입니다. Cerebras는 WSE-3가 46,225mm² 면적, 4조 개 트랜지스터, 90만 개 AI 최적화 코어, 125페타플롭스(FP16 기준) AI 연산 성능을 제공한다고 밝힙니다. 같은 칩 위에 약 44GB의 온칩 SRAM을 탑재해, 데이터를 칩 내부에서 보관하고 처리하는 구조입니다.

세레브라스는 웨이퍼 위에 여러 개의 작은 칩을 만들고 잘라 패키징합니다. 반면 세레브라스는 웨이퍼 수준의 거대한 실리콘을 하나의 프로세서처럼 쓰려는 전략입니다. 이렇게 하면 여러 GPU를 오가며 데이터를 주고받을 때 생기는 통신 비용을 줄일 수 있고, 온칩 메모리와 온칩 네트워크를 크게 활용할 수 있습니다. 다만 모델이 온칩 메모리보다 큰 경우, 세레브라스는 MemoryX라는 외부 메모리 시스템을 통해 가중치를 스트리밍하는 방식으로 확장합니다.

칩 내부 통합형 구조 vs 다중 GPU 분산 구조를 한눈에 비교한 본문 인포그래픽

물론 웨이퍼 스케일은 쉬운 선택이 아닙니다. 웨이퍼 위에는 결함이 생길 수밖에 없고, 초대형 칩은 수율 관리가 어렵습니다. 세레브라스는 이를 “결함을 완전히 피하는” 방식이 아니라, 여분 코어와 여분 라우팅을 두고 결함 영역을 우회하는 fail-in-place 구조로 풀었다고 설명합니다.

세레브라스의 메시지는 분명합니다. AI 모델을 수많은 GPU에 나눠 배치하기보다, 가능한 한 큰 연산·메모리·통신 공간을 하나의 시스템 안에 넣어 복잡도를 낮추겠다는 것입니다.

가장 큰 차이는 ‘확장 방식’이다

두 회사의 기술 차이를 한 문장으로 줄이면 이렇습니다.

엔비디아는 작은 단위를 강하게 만들고, 그것을 아주 잘 연결해 확장합니다. 세레브라스는 처음부터 매우 큰 단위를 만들고, 칩 내부에서 통신과 연산을 해결하려 합니다.

이 차이는 AI 인프라 설계 관점에서 중요합니다. 엔비디아 방식은 표준화된 서버와 클러스터에 잘 맞습니다. 필요한 만큼 GPU를 늘리고, 클라우드와 온프레미스 환경을 섞고, 기존 ML 소프트웨어 생태계를 활용하기 좋습니다.

반대로 세레브라스 방식은 특정 대형 모델 학습이나 초고속 추론처럼 “통신 병목을 줄이는 것”이 중요한 영역에서 매력적일 수 있습니다. 특히 거대한 칩 안에서 모델 실행을 단순화할 수 있다면, 개발자와 운영자 입장에서는 분산 학습의 복잡도가 줄어드는 장점이 생깁니다.

메모리 관점에서도 다르다

엔비디아 GPU 시스템은 HBM과 GPU 간 인터커넥트가 핵심입니다. HBM은 AI 연산기의 데이터를 먹여 살리는 고대역폭 메모리이고, GPU 여러 개를 묶을수록 GPU-HBM-NVLink-네트워크 전체 균형이 중요해집니다.

세레브라스는 온칩 메모리와 온칩 대역폭을 강조합니다. 데이터를 가능한 한 칩 내부에서 움직이게 하려는 방향입니다. 이는 “HBM을 많이 붙인 GPU”와는 다른 해법입니다. 다만 모든 모델과 모든 워크로드에 항상 유리하다고 단정하기는 어렵습니다. 실제 성능은 모델 크기, 배치 크기, 정밀도, 소프트웨어 최적화, 서비스 지연시간 요구에 따라 달라집니다.

소프트웨어와 생태계는 엔비디아가 앞선다

AI 반도체 경쟁에서 하드웨어 수치만 보는 것은 위험합니다. 실제 현장에서는 개발자가 쉽게 모델을 올릴 수 있는지, 프레임워크가 안정적인지, 장애 대응과 모니터링이 가능한지, 클라우드에서 바로 쓸 수 있는지가 중요합니다.

이 점에서 엔비디아의 CUDA, TensorRT, NCCL, NeMo, Triton Inference Server 같은 생태계는 큰 진입장벽입니다. 많은 기업이 엔비디아를 선택하는 이유는 단지 GPU가 빨라서가 아니라, “돌아가는 길이 이미 만들어져 있기 때문”입니다.

세레브라스는 이 생태계 격차를 다른 방식으로 좁히려 합니다. 하드웨어를 직접 판매하는 것뿐 아니라 클라우드형 추론 서비스, 대형 모델 실행 최적화, 단순한 배포 경험을 강조합니다. 즉 CUDA와 정면승부하기보다 특정 워크로드에서 더 단순하고 빠른 사용 경험을 주겠다는 전략에 가깝습니다.

결론: 경쟁이라기보다 다른 설계 철학

세레브라스와 엔비디아의 차이는 “누가 더 빠른가”만으로 설명하기 어렵습니다. 둘은 AI 가속기라는 같은 목적지를 향하지만, 길이 다릅니다.

엔비디아는 GPU를 중심으로 한 거대한 생태계와 클러스터 확장 기술의 회사입니다. AI 데이터센터를 표준화하고, 다양한 고객이 바로 쓸 수 있게 만드는 데 강합니다.

세레브라스는 웨이퍼 스케일이라는 과감한 구조로 통신 병목과 분산 복잡도를 줄이려는 회사입니다. 모든 시장을 대체하기보다는, 특정 대형 AI 워크로드에서 “다른 방식의 최적해”를 제시하는 쪽에 가깝습니다.

앞으로 AI 인프라 경쟁은 단순히 GPU 대 대체 칩의 구도가 아닐 가능성이 큽니다. 모델은 커지고, 추론 비용은 중요해지고, 전력과 메모리 병목은 더 커질 것입니다. 그래서 중요한 질문은 “엔비디아를 이기느냐”보다 “어떤 워크로드에서 어떤 구조가 더 경제적인가”입니다.

이 질문에 답하기 위해서는 FLOPS보다 시스템 구조를 봐야 합니다. 칩 안에서 해결할 것인지, 랙과 클러스터로 확장할 것인지. 세레브라스와 엔비디아의 진짜 차이는 바로 그 설계 철학에 있습니다.

한 문장 요약

엔비디아는 GPU를 네트워크로 묶어 확장하는 플랫폼 전략이고, 세레브라스는 웨이퍼 스케일 칩으로 통신 병목을 줄이려는 단일 초대형 프로세서 전략이다.

확인한 출처 / 근거

모든 성능 수치는 각 벤더의 발표 기준이며, 실제 워크로드별 성능은 모델 크기·배치 크기·정밀도·소프트웨어 최적화에 따라 달라집니다.

다음에 읽을 글

세레브라스와 엔비디아를 이해했다면, AI 데이터센터 설계 병목을 함께 읽어보면 맥락이 더 선명해집니다. AI는 계산 병목인지, 전력 병목인지AI 인프라는 반도체를 넘어선다를 함께 보면 됩니다.

체크포인트

  • 데이터센터와 반도체 칩을 별도 시설이 아니라 같은 AI 인프라 설계 체계로 보고 있는가
  • 엔비디아/세레브라스의 장점을 수치만이 아니라 운영성과 생태계 관점에서 비교했는가
  • 온칩 메모리, 외부 메모리 확장, 인터커넥트 특성을 워크로드 조건과 함께 구분했는가
  • 수치가 결론을 앞서지 않게, 시장성·운영성 문구 중심으로 마무리했는지 확인했는가