온디바이스 AI와 AI PC의 메모리 경쟁: 스마트폰부터 통합 SoC까지

AI 스마트폰, 애플 통합 메모리, Intel-NVIDIA x86 RTX SoC 구상을 함께 놓고, 온디바이스 AI가 D램·LPDDR·낸드 수요와 기기 가격을 어떻게 바꾸는지 설명합니다.

참고: 이 글은 2026년 7월에 각각 발행된 온디바이스 AI 메모리 관련 글 세 편(온디바이스 AI 메모리 증설, 애플 M7 Ultra와 AI PC, Intel-NVIDIA x86 RTX SoC)을 하나의 가이드로 재구성했습니다. 특정 기업 평가가 아니라 AI 기기 구조와 메모리 병목 이해에 초점을 둡니다.

스마트폰이나 노트북을 살 때 예전에는 카메라, 화면 크기, 배터리를 먼저 봤습니다. 요즘은 여기에 하나가 더 붙습니다. AI입니다.

문제는 AI 기능이 공짜로 들어오는 게 아니라는 점입니다. 기기 안에서 AI를 돌리려면 더 좋은 칩이 필요하고, 더 많은 메모리도 필요합니다. 서버에 있는 AI를 쓰면 스마트폰은 질문을 보내고 답을 받아오면 됩니다. 하지만 온디바이스 AI는 일부 연산을 기기 안에서 직접 처리합니다. 인터넷 연결이 약해도 빠르게 반응하고, 민감한 데이터를 외부로 덜 보내도 됩니다. 대신 기기 내부가 바빠집니다.

AI 기능은 왜 메모리를 더 먹을까

AI 모델은 계산만 많이 하는 게 아닙니다. 계산할 때 필요한 데이터도 계속 들고 있어야 합니다. 사용자의 문장, 이미지, 음성, 앱 상태, 모델 가중치, 중간 계산값이 모두 어딘가에 있어야 합니다.

이때 D램은 작업 공간 역할을 합니다. 책상에 비유하면 책상이 작으면 책 한 권만 펼쳐도 꽉 찹니다. 스마트폰 안에서 요약, 번역, 이미지 편집, 음성 인식을 자연스럽게 돌리려면 메모리 여유가 필요하고, AI PC도 마찬가지입니다. 운영체제와 앱이 이미 메모리를 쓰고 있는데, 그 위에서 AI 기능까지 상시 대기하려면 기본 메모리 용량이 올라갈 수밖에 없습니다.

AI 기능은 칩 성능만의 문제가 아니다. 모델과 중간 계산값을 올려둘 D램, 모델 파일과 캐시를 보관할 낸드 저장공간이 함께 필요하다.

서버 AI와 온디바이스 AI는 압박 방식이 다르다

서버 AI는 데이터센터 쪽 메모리를 압박합니다. GPU, HBM, 고성능 SSD, 네트워크, 전력까지 한꺼번에 필요합니다. 온디바이스 AI는 방향이 다릅니다. 압박이 스마트폰과 PC 안으로 내려옵니다. 기기 한 대당 들어가는 D램과 저장공간이 늘어나는 식입니다.

서버 AI가 “데이터센터의 메모리 전쟁”이라면, 온디바이스 AI는 “개인 기기 안의 메모리 증설”입니다. 이 차이가 중요합니다. 서버 AI 수요가 HBM을 밀어 올렸다면, 온디바이스 AI는 LPDDR, 모바일 낸드, PC용 D램, SSD 수요에 영향을 줄 수 있습니다. 소비자가 체감하는 변화는 가격표에서 먼저 나타날 가능성이 큽니다.

멤플레이션이라는 말이 나오는 이유

최근 시장 분석에서는 “멤플레이션(memflation)“이라는 표현도 쓰입니다. 메모리(memory)와 인플레이션(inflation)을 합친 말로, 가트너(Gartner) 등 시장조사 기관이 반도체 시장 전망에서 사용하기 시작했습니다.

AI 데이터센터가 HBM과 고성능 메모리를 빨아들이는 동시에, 스마트폰과 PC도 AI 기능을 넣겠다며 메모리 사양을 올리려 합니다. 공급은 단기간에 크게 늘리기 어렵습니다. 반도체 공장은 버튼 하나로 바로 증설되지 않습니다. 그러면 가격 압박이 생기고, 특히 저가형 기기가 민감합니다. 가트너는 500달러 이하 저가형 PC 시장이 2028년경까지 사라질 수 있다고 경고했습니다.

저장공간도 같이 볼 것: HBS의 맥락

메모리라고 하면 보통 D램만 떠올리지만, 온디바이스 AI에서는 저장공간도 같이 봐야 합니다. AI 모델, 개인화 데이터, 이미지·영상 처리 결과, 캐시 데이터가 기기 안에 더 많이 남을 수 있기 때문입니다.

이 흐름에서 HBS 같은 개념이 나옵니다. HBS는 High Bandwidth Storage로 보는 것이 안전합니다. SK하이닉스가 언급한 D램과 낸드 적층 패키지 맥락에서는, 서버용 HBM을 대체한다기보다 스마트폰과 온디바이스 AI 환경에서 메모리와 저장공간 사이의 병목을 줄이려는 시도로 이해하는 편이 낫습니다. 중요한 건 이름이 아닙니다. 스마트폰 안에서도 “빠른 작업 공간”과 “큰 저장공간” 사이의 거리를 줄이려는 요구가 커지고 있다는 점입니다.

사례 1: 애플 통합 메모리와 M7 Ultra 전망

애플 실리콘은 이 흐름에서 가장 앞선 사례입니다. Apple은 현재 공식 제품인 M3 Ultra에 최대 512GB 통합 메모리와 800GB/s가 넘는 메모리 대역폭을 제시했고, 600B+ 파라미터급 LLM을 온디바이스에서 다룰 수 있다고 설명했습니다.

여기서 용량과 대역폭은 서로 다른 병목이라는 점을 짚어야 합니다. 용량은 모델 가중치, KV 캐시, 로컬 검색 인덱스, 일반 애플리케이션의 작업 공간을 얼마나 오래 유지할 수 있는지를 결정합니다. 대역폭은 그 데이터를 CPU·GPU가 얼마나 빠르게 읽고 쓸 수 있는지를 좌우합니다. 통합 메모리는 CPU와 GPU 사이의 반복 복사를 줄이지만, 연산량과 소프트웨어 최적화가 받쳐주지 않으면 토큰 처리 속도는 기대만큼 오르지 않습니다.

개인 AI 에이전트는 모델 하나만 메모리에 올리고 끝나는 프로그램이 아닙니다. (1) 모델 가중치 적재, (2) 파일·코드 저장소의 검색 인덱스 생성, (3) 검색 결과와 대화 이력의 프롬프트 결합, (4) 추론 중 KV 캐시 유지, (5) 도구 실행 결과와 중간 산출물 저장, (6) 다음 단계에서 앞선 결과 재사용까지, 여러 종류의 데이터를 같은 시간에 붙잡고 있어야 합니다.

참고로 Bloomberg 보도를 바탕으로 한 시나리오에서 M7 Ultra가 2028년경 등장해 설계상 1.5TB 통합 메모리 지원을 고려할 수 있다는 이야기가 있습니다. 다만 이는 공식 사양표가 아니라 보도 기반의 전망입니다. 실제 제공 여부는 메모리 수급 같은 공급 조건의 영향도 받습니다. M3 Ultra의 512GB 구성이 이후 축소됐다는 보도 역시, 구성 변화와 매체가 제시한 원인(공급 압박)을 분리해서 봐야 합니다.

사례 2: Intel-NVIDIA x86 RTX SoC가 던지는 질문

x86 진영에서도 비슷한 질문이 나옵니다. 공식적으로 확인된 것은 2025년 9월 Intel과 NVIDIA가 데이터센터와 PC 제품을 여러 세대에 걸쳐 공동 개발하기로 했고, PC 영역에서 NVIDIA RTX GPU 칩렛을 통합한 Intel x86 SoC를 개발하겠다고 밝힌 점입니다. 코드명 “Serpent Canyon”, 2028년 1분기 출시 등은 유출 단계 정보이므로 단정하지 않습니다.

이 제품이 노리는 것은 단순한 노트북용 외장 GPU가 아닙니다. Intel x86 SoC 안에 NVIDIA RTX GPU 칩렛을 통합하는 구조입니다. 그러면 설계의 중심 질문이 “CPU와 외장 GPU를 어떻게 연결할까”에서 “CPU, RTX GPU 타일, AI 가속기, 메모리 컨트롤러를 한 플랫폼 안에서 어떻게 배치하고, 어떤 메모리 풀을 공유하게 할까”로 바뀝니다.

이 변화는 메모리 시장에 네 가지 질문을 던집니다.

• LPDDR은 어디까지 고성능화될 수 있는가. RTX 타일이 충분한 성능을 내려면 데이터를 빠르게 공급해야 하는데, 얇은 노트북에 별도 GDDR을 넉넉히 붙이기는 어렵습니다. 고성능 LPDDR이 AI PC의 성능 메모리로 재평가될 수 있습니다.
• GDDR은 어떤 구간에 남을 것인가. 보급형·중급 모바일 GPU 일부는 통합 SoC로 대체될 수 있지만, 프리미엄 게이밍·워크스테이션 GPU의 전용 GDDR 수요는 유지될 가능성이 큽니다.
• AI PC의 기본 용량은 어디까지 올라갈 것인가. RTX 타일이 시스템 메모리를 공유한다면 GPU와 AI 작업 몫까지 고려해야 해서, 32GB 이상 구성이 프리미엄 기준이 될 수 있습니다.
• 메모리 경쟁은 패키징과 얼마나 결합될 것인가. 칩렛 구조에서는 메모리 칩만이 아니라 칩렛 간 지연, 배선, 전력·열 관리가 함께 성능을 결정합니다.

단정할 수 있는 것은 제품 사양이 아니라 방향성이다. AI PC에서 메모리는 다시 플랫폼의 중심이 된다.

소비자에게는 어떤 변화가 올까

첫 번째 변화는 가격입니다. AI 기능이 들어간 기기는 AP, NPU, D램, 낸드, 배터리, 열 설계가 모두 영향을 받아 제조 원가가 올라가면 소비자 가격에 반영될 수 있습니다.

두 번째 변화는 제품 등급의 차이입니다. 예전에는 카메라나 화면이 프리미엄을 나눴다면, 앞으로는 “어떤 AI 기능을 기기 안에서 바로 돌릴 수 있느냐”가 등급을 가를 수 있습니다.

세 번째 변화는 교체 주기입니다. AI 기능이 운영체제 기본 기능처럼 들어오면 오래된 기기는 메모리 부족으로 일부 기능을 제대로 쓰기 어려울 수 있습니다. 교체 이유가 “느려져서”에서 “AI 기능을 못 써서”로 바뀔 가능성도 있습니다.

기업에게는 비용 구조 문제다

사내 업무용 PC에 AI 기능이 기본 탑재되면 최소 메모리 기준이 올라갑니다. 8GB로 충분했던 업무가 16GB를 요구하고, 16GB가 기본이던 작업이 32GB를 요구할 수 있습니다. 개발자, 디자이너, 데이터 분석가처럼 로컬에서 무거운 도구를 쓰는 직군은 더 빨리 영향을 받습니다.

기업 입장에서는 단말 교체 비용, 보안 정책, 클라우드 AI 사용료, 로컬 AI 성능을 같이 봐야 합니다. 온디바이스 AI는 단순히 “기능이 하나 더 생겼다”가 아니라, IT 예산 안에서 클라우드 비용과 단말 비용의 균형을 다시 묻는 변화입니다.

메모리 업체에는 어떤 의미일까

AI 서버 중심의 수요는 이미 HBM에서 강하게 나타났습니다. 온디바이스 AI가 확산되면 범용 D램과 낸드 쪽에도 다른 형태의 수요가 생길 수 있습니다. 다만 단순히 “메모리 수요가 무조건 늘어난다”로 보면 위험합니다. 소비자 기기는 가격 저항이 큽니다.

• AI 기능이 실제로 매일 쓰이는가
• 소비자가 더 비싼 기기를 받아들이는가
• 제조사가 메모리 원가 상승을 얼마나 흡수할 수 있는가

이 세 가지가 맞아야 온디바이스 AI가 메모리 시장의 지속적인 수요로 이어질 수 있습니다.

한 문장으로 정리하면

온디바이스 AI는 AI를 스마트폰과 PC 안으로 끌어오는 흐름이고, 그 결과 기기 안의 D램·LPDDR·저장공간 요구가 함께 올라가면서 메모리 증설과 기기 가격 인상 압력을 만들 수 있습니다. 애플의 통합 메모리와 Intel-NVIDIA의 칩렛 구상은 그 방향성을 보여주는 두 가지 사례입니다.

HBM이 AI 서버에서 왜 병목인지 더 보고 싶다면 HBM, AI 서버의 메모리 대역폭 병목을 이어서 보면 좋습니다.

체크포인트

• 온디바이스 AI가 칩 성능뿐 아니라 D램과 낸드 저장공간을 함께 요구한다는 점을 이해했는가?
• 서버 AI의 HBM 압박과 개인 기기 내부의 LPDDR·낸드 압박을 구분했는가?
• 메모리 용량과 대역폭이 서로 다른 병목이라는 점을 애플 통합 메모리 사례로 확인했는가?
• Intel-NVIDIA 공식 협력과 유출 정보를 구분하고, LPDDR·GDDR·패키징 전망을 가능성으로 읽었는가?

확인한 출처 / 근거

• Gartner, Surging Memory Costs Will Reduce Global PC and Smartphone Shipments in 2026 — 메모리 가격 상승이 출하량과 기기 구성에 미칠 영향을 담은 공식 전망.
• Gartner, Worldwide Semiconductor Revenue to Exceed $1.3 Trillion in 2026 — AI와 메모리 수요를 반영한 시장 전망.
• IDC, Global Memory Shortage Crisis — 메모리 공급 부족이 스마트폰·PC 가격과 사양에 미칠 수 있는 영향 분석.
• CIO Dive, “Memflation” pushes semiconductor market across $1.3 trillion threshold — 메모리 가격 인플레이션을 설명한 2차 보도.
• DIGITIMES, Apple faces iPhone 18 Pro price pressure — Apple 제품 가격 압력을 다룬 업계 보도.
• TrendForce, Mobile DRAM contract prices report — 모바일 DRAM 가격 흐름 자료.
• Apple, Mac Studio 기술 사양 — M3 Ultra 최대 512GB 통합 메모리와 800GB/s 대역폭의 공식 사양.
• Tom’s Hardware, Apple quietly axes 128GB Mac Studio — Mac Studio 고용량 메모리 구성 축소 맥락.
• NVIDIA Newsroom, NVIDIA and Intel to Develop AI Infrastructure and Personal Computing Products — x86 SoC에 RTX GPU 칩렛을 통합하는 공동 개발 계획의 공식 발표.
• Intel Newsroom, Intel and NVIDIA to Jointly Develop AI Infrastructure and Personal Computing Products — 같은 협력 범위의 Intel 공식 발표.
• VideoCardz, Intel x86 processors with NVIDIA RTX graphics reportedly planned for 2028 — 소식통 인용 로드맵 보도(공식 아님).
• Igor’sLAB, Intel x86 with NVIDIA RTX: Roadmap Leak Names 2028 for “Serpent Canyon” — 유출을 재검토한 2차 보도.

Gartner와 IDC 수치는 전망 또는 시나리오입니다. M7 Ultra 관련 수치는 비공식 보도 기반이며, Serpent Canyon 코드명과 2028년 일정, 메모리 인터페이스는 유출 단계 정보로 공식 발표 전까지 확정 정보가 아닙니다.