실리콘 포토닉스와 메모리 전망

실리콘 포토닉스와 CPO(Co-Packaged Optics)가 AI 데이터센터의 네트워크 병목을 어떻게 줄이는지, 그리고 HBM과 경쟁이 아닌 보완 관계라는 점을 기술 관점에서 설명합니다.

AI 데이터센터를 볼 때 우리는 보통 GPU와 HBM을 먼저 떠올립니다. 연산을 많이 하는 칩, 그리고 그 칩 옆에서 데이터를 빠르게 공급하는 고대역폭 메모리. 최근 몇 년간 반도체 시장의 중심축도 이 조합을 따라 움직였습니다.

그런데 데이터센터가 더 커질수록 병목은 칩 안에서만 생기지 않습니다. 서버와 서버, 랙과 랙, 클러스터와 클러스터를 잇는 네트워크에서도 전력과 지연시간 문제가 커집니다. 이 지점에서 다시 주목받는 기술이 실리콘 포토닉스입니다.

실리콘 포토닉스는 전기 신호 대신 빛을 이용해 데이터를 주고받는 광통신 기술을, 기존 반도체 공정과 가까운 방식으로 구현하려는 접근입니다. 완전히 새로운 세계라기보다, 전자 칩이 감당하기 어려운 장거리·고속 연결 구간을 광 기반으로 넘기려는 시도에 가깝습니다.

CPO는 왜 AI 데이터센터에서 중요해졌나

특히 AI 인프라에서는 CPO, 즉 Co-Packaged Optics가 자주 언급됩니다. 스위치 칩 바깥에 광모듈을 꽂는 방식에서 더 나아가, 광 입출력 부품을 스위치 ASIC 가까이 붙이는 구조입니다. 목적은 단순합니다. 데이터 이동 거리를 줄이고, 전력 소모를 낮추고, 더 높은 대역폭을 확보하는 것입니다.

기존 플러거블 광모듈은 스위치 전면 패널의 케이지에 꽂힙니다. ASIC에서 모듈까지는 보드 위 구리 배선과 SerDes가 신호를 전달하고, 모듈에서 전기 신호를 빛으로 바꿉니다. 모듈 단위로 빼서 교체할 수 있고 공급업체를 바꾸기 쉬워 운영 방식이 성숙했다는 것이 장점입니다. 반면 신호 속도가 높아질수록 ASIC과 패널 사이 전기 경로의 손실을 보상해야 하므로 재타이머·DSP와 신호 구동 전력, 보드 설계 난도가 함께 커집니다.

CPO는 광 엔진을 스위치 ASIC과 같은 패키지 또는 바로 옆으로 옮겨 이 전기 구간을 짧게 만듭니다. 긴 보드 트레이스 대신 광섬유가 패키지 가까이에서 시작되기 때문에 전기 입출력의 부담을 낮추고, 같은 전력과 패널 면적 안에 더 많은 네트워크 대역폭을 배치할 여지가 생깁니다. 다만 CPO가 플러거블을 즉시 완전히 대체한다는 뜻은 아닙니다. 전면 교체성이 중요한 구간에는 플러거블이 남고, 대역폭 밀도와 전력 제약이 더 절박한 대형 AI 스위치부터 CPO가 선택될 가능성이 높습니다.

Broadcom은 51.2Tbps급 Co-Packaged Optics 이더넷 스위치 플랫폼을 공개했고, 업계에서는 102.4T급 스위치와 CPO 출하 흐름도 함께 다루고 있습니다. 숫자 자체보다 중요한 것은 방향입니다. AI 클러스터가 커질수록 전기 신호만으로 모든 연결을 밀어붙이기 어려워지고, 광 연결을 더 가까운 위치로 끌어오려는 시도가 늘고 있습니다.

HBM과 CPO는 같은 병목을 두고 경쟁하기보다, 서로 다른 계층의 데이터 이동 문제를 다룬다.

실리콘 포토닉스가 HBM을 대체할까

그렇다면 실리콘 포토닉스가 메모리를 대체할까요? 아직은 그렇게 보기 어렵습니다. HBM은 GPU나 AI 가속기 바로 옆에서 초고속으로 데이터를 공급하는 역할을 합니다. 실리콘 포토닉스와 CPO는 주로 칩 밖, 서버 밖, 랙 사이의 데이터 이동 문제를 다룹니다. 서로의 위치가 다릅니다.

좀 더 정확히 말하면 HBM은 연산 코어가 자주 읽고 쓰는 데이터를 공급하는 로컬 메모리 대역폭이고, 광 인터커넥트는 서버·랙·클러스터에 흩어진 가속기 사이의 데이터를 운반하는 패브릭 대역폭입니다. HBM이 넓어도 노드 간 링크가 막히면 분산 학습과 추론의 통신 대기시간은 남습니다. 반대로 광 패브릭이 빨라도 가속기 옆 메모리가 데이터를 제때 공급하지 못하면 연산기가 쉽니다. 둘은 대체재가 아니라 서로 다른 거리 계층의 병목을 함께 줄이는 보완재입니다.

하지만 방향성은 연결돼 있습니다. AI 모델이 커질수록 연산장치 하나의 성능만으로는 부족합니다. 더 많은 가속기를 묶고, 더 큰 클러스터를 만들고, 그 사이에서 데이터를 빠르게 옮겨야 합니다. 네트워크 병목이 줄어들면 더 큰 규모의 AI 시스템을 구성할 수 있고, 이는 다시 HBM과 고성능 DRAM 수요를 자극할 수 있습니다.

TrendForce의 2026년 HBM 시장 보도 흐름에서도 AI 수요에 따른 HBM 가격·계약 협상·공급 배분 문제가 계속 언급됩니다. 즉 HBM은 여전히 AI 가속기 근처의 핵심 병목이고, 실리콘 포토닉스는 그 바깥의 연결 병목을 줄이는 보완 축으로 보는 편이 안전합니다.

메모리 시장에서 봐야 할 변화

메모리 시장 관점에서 중요한 변화는 “용량”보다 “데이터가 움직이는 방식”입니다. 과거에는 PC와 스마트폰 출하량이 메모리 사이클을 설명하는 큰 변수였습니다. 지금은 AI 서버, HBM, DDR5, 기업용 SSD, 고속 인터커넥트가 함께 봐야 할 축이 됐습니다.

메모리가 단품으로 팔리는 시장에서, 패키징과 네트워크, 시스템 설계와 함께 움직이는 시장으로 바뀌고 있는 셈입니다. HBM은 GPU 패키지 안의 데이터 이동을 넓히고, CPO와 실리콘 포토닉스는 랙과 클러스터 사이의 데이터 이동을 줄입니다. 결국 둘 다 “데이터를 얼마나 적은 전력으로, 얼마나 빠르게 옮길 것인가”라는 같은 질문으로 이어집니다.

아직 넘어야 할 리스크

물론 리스크도 있습니다. HBM은 수요가 강해도 공급 증설과 고객 인증, 패키징 병목에 따라 사이클이 흔들릴 수 있습니다. 실리콘 포토닉스 역시 기술적으로 유망하지만, 비용·수율·열·표준화·현장 운용 경험을 넘어야 합니다. 모든 데이터센터가 단기간에 CPO 구조로 바뀐다고 보는 것은 과장입니다.

특히 CPO는 단순히 광모듈 하나를 바꾸는 문제가 아닙니다. 스위치 ASIC, 광 엔진, 패키징, 냉각, 유지보수 방식이 함께 바뀝니다. 데이터센터 운영자는 성능뿐 아니라 장애 대응, 교체 편의성, 표준화, 공급망까지 확인해야 합니다. 기술의 방향은 분명해도, 확산 속도는 실제 운영 경험에 따라 달라질 수 있습니다.

운영 리스크는 패키징 이후에 더 선명해집니다. 광섬유를 패키지에 정밀하게 연결하는 공정과 커넥터 오염·손상 관리가 필요하고, 현장에서 광 엔진 하나만 쉽게 뽑아 바꾸기 어려우면 장애 단위가 스위치 보드나 시스템으로 커질 수 있습니다. 고열의 ASIC과 온도에 민감한 광소자를 가깝게 둘 때는 냉각과 열 결합도 함께 검증해야 합니다. 전자 다이, 광 다이, 패키지, 섬유 결합 중 하나의 불량이 전체 수율과 비용에 영향을 줄 수 있으며, 외부 레이저·관리 인터페이스·광 엔진 폼팩터의 표준과 다중 공급사 상호운용성도 중요한 과제입니다.

현실적인 결론

그래서 현재의 현실적인 결론은 이렇습니다. 실리콘 포토닉스는 메모리를 대체하는 기술이 아니라, AI 데이터센터의 병목 지도를 넓히는 기술입니다. HBM은 칩 가까운 곳의 대역폭 문제를 풀고, 실리콘 포토닉스와 CPO는 클러스터 단위의 연결 문제를 풀려 합니다. 둘은 경쟁보다 보완에 가깝습니다.

앞으로 메모리 전망을 볼 때는 HBM 가격이나 공급량만 보면 부족합니다. AI 서버가 얼마나 커지는지, 전력 제약이 얼마나 심해지는지, 네트워크 구조가 전기에서 광으로 얼마나 이동하는지 함께 봐야 합니다. 메모리의 미래는 더 이상 메모리 칩 안에서만 결정되지 않습니다. 빛으로 연결되는 데이터센터 구조 속에서, 메모리의 역할도 다시 정의되고 있습니다.

한 문장 요약

실리콘 포토닉스는 HBM을 대체하기보다 AI 데이터센터의 네트워크 병목을 줄여, 고성능 메모리 수요의 구조를 더 시스템 중심으로 바꾸는 기술입니다.

독자에게 남기는 질문

AI 데이터센터의 다음 병목은 메모리 대역폭일까요, 네트워크 전력일까요?

다음에 읽을 글

실리콘 포토닉스와 CPO를 이해하려면 먼저 HBM이 왜 AI 서버의 병목이 됐는지 보는 것이 좋습니다.
HBM이 AI 서버에서 중요한 이유

체크포인트

• HBM과 CPO를 대체 관계가 아니라 서로 다른 계층의 보완 관계로 봤는가?
• HBM은 칩 가까운 곳의 대역폭 문제, 실리콘 포토닉스는 랙·클러스터 연결 문제로 구분했는가?
• CPO 확산에는 비용, 수율, 열, 표준화, 운영 경험이라는 리스크가 남아 있다는 점을 고려했는가?
• 메모리 전망을 칩 단품이 아니라 패키징, 네트워크, 데이터센터 전력 구조와 함께 봤는가?

확인한 출처 / 근거

• Broadcom, 51.2-Tbps Co-Packaged Optics Ethernet Switch Platform — Bailly 51.2T CPO 스위치의 구성과 전력 효율을 설명한 공식 발표.
• Yole Group, Co-Packaged Optics: powering the next wave of AI infrastructures — AI 인프라와 CPO 확산 배경.
• Semiconductor Engineering, All AI Data Center Interconnects Will Be Optical Within 5 Years — AI 데이터센터 인터커넥트의 광 전환 전망.
• TrendForce, Tight DRAM Supply Gives Suppliers Greater Pricing Power in HBM — HBM4 공급 협상, 가격, DRAM 생산능력 배분 전망을 담은 시장조사 자료.
• OIF, Co-Packaging Framework Implementation Agreement — 전기·광 인터페이스, 열·기계 설계, 신뢰성, 관리 인터페이스의 표준화 범위.
• OIF, 3.2T Co-Packaged Module Implementation Agreement — CPO 폼팩터와 다중 공급사 생태계의 표준화 흐름.
• Broadcom BCM78900 Series — CPO 스위치 제품 구조와 광 엔진 통합 방향.
• AMD Instinct MI300X — HBM이 가속기 가까운 로컬 메모리 계층을 담당한다는 제품 사례.