QSike Tech Notes

온디바이스 AI 시대, 왜 기기 메모리가 늘어날까

AI 스마트폰과 AI PC가 기기 안에서 AI를 돌리려면 더 많은 D램과 저장공간이 필요합니다. 서버 AI와 온디바이스 AI의 메모리 압박이 겹치면서 기기 가격에도 영향을 줄 수 있습니다.

스마트폰과 노트북 내부의 AI 연산, D램, 낸드 저장공간을 함께 표현한 온디바이스 AI 메모리 히어로 이미지

이 글은 온디바이스 AI 확산이 스마트폰과 PC의 D램, 낸드, 저장공간 요구에 어떤 영향을 줄 수 있는지 설명하는 QSike Tech Notes 기술 해설입니다. 특정 기업 평가가 아니라 AI 기기 구조와 메모리 병목 이해에 초점을 둡니다.

스마트폰이나 노트북을 살 때 예전에는 카메라, 화면 크기, 배터리를 먼저 봤습니다. 요즘은 여기에 하나가 더 붙었습니다. AI입니다.

문제는 AI 기능이 공짜로 들어오는 게 아니라는 점입니다. 기기 안에서 AI를 돌리려면 더 좋은 칩이 필요하고, 더 많은 메모리도 필요합니다. 그래서 최근 IT 기기 가격 인상 이야기에는 “온디바이스 AI”와 “메모리 증설”이 함께 등장합니다.

서버에 있는 AI를 쓰면 스마트폰은 질문을 보내고 답을 받아오면 됩니다. 하지만 온디바이스 AI는 다릅니다. 일부 연산을 기기 안에서 직접 처리합니다. 인터넷 연결이 약해도 빠르게 반응하고, 민감한 데이터를 외부로 덜 보내도 됩니다. 대신 기기 내부가 바빠집니다.

여기서 메모리가 중요해집니다.

AI 기능은 왜 메모리를 더 먹을까

AI 모델은 계산만 많이 하는 게 아닙니다. 계산할 때 필요한 데이터도 계속 들고 있어야 합니다. 사용자의 문장, 이미지, 음성, 앱 상태, 모델 가중치, 중간 계산값이 모두 어딘가에 있어야 합니다.

이때 D램은 작업 공간 역할을 합니다. 책상에 비유하면 쉽습니다. 책상이 작으면 책 한 권만 펼쳐도 꽉 찹니다. 더 복잡한 일을 하려면 책상도 넓어야 합니다.

온디바이스 AI도 비슷합니다. 스마트폰 안에서 요약, 번역, 이미지 편집, 음성 인식 같은 기능을 자연스럽게 돌리려면 메모리 여유가 필요합니다. AI PC도 마찬가지입니다. 운영체제와 앱이 이미 메모리를 쓰고 있는데, 그 위에서 AI 기능까지 상시 대기하려면 기본 메모리 용량이 올라갈 수밖에 없습니다.

온디바이스 AI 기능, D램 작업 공간, 낸드 저장공간의 관계를 설명한 한글 인포그래픽 AI 기능은 칩 성능만의 문제가 아니다. 모델과 중간 계산값을 올려둘 D램, 모델 파일과 캐시를 보관할 낸드 저장공간이 함께 필요하다.

그래서 앞으로 프리미엄 스마트폰과 노트북은 “AI 기능”을 말하면서 동시에 “메모리 사양”을 더 강조할 가능성이 큽니다.

서버 AI와 온디바이스 AI는 메모리 압박 방식이 다르다

서버 AI는 데이터센터 쪽 메모리를 압박합니다. GPU, HBM, 고성능 SSD, 네트워크, 전력까지 한꺼번에 필요합니다. 생성형 AI 학습과 대규모 추론이 커지면서 HBM 수요가 크게 늘었습니다.

온디바이스 AI는 방향이 조금 다릅니다. 압박이 스마트폰과 PC 안으로 내려옵니다. 기기 한 대당 들어가는 D램과 저장공간이 늘어나는 식입니다.

서버 AI가 “데이터센터의 메모리 전쟁”이라면, 온디바이스 AI는 “개인 기기 안의 메모리 증설”입니다.

이 차이가 중요합니다. 서버 AI 수요가 HBM을 밀어 올렸다면, 온디바이스 AI는 LPDDR, 모바일 낸드, PC용 D램, SSD 수요에 영향을 줄 수 있습니다. 소비자가 체감하는 변화는 가격표에서 먼저 나타날 가능성이 큽니다.

서버 AI와 온디바이스 AI가 각각 다른 메모리 계층을 압박하는 흐름을 비교한 한글 인포그래픽 서버 AI는 데이터센터의 HBM과 고성능 저장장치를 압박하고, 온디바이스 AI는 스마트폰과 노트북 내부의 LPDDR, 낸드, SSD 요구를 끌어올린다.

멤플레이션이라는 말이 나오는 이유

최근 시장 분석에서는 “멤플레이션(memflation)“이라는 표현도 쓰입니다. 메모리(memory)와 인플레이션(inflation)을 합친 말로, 가트너(Gartner) 등 시장조사 기관이 반도체 시장 전망에서 사용하기 시작했습니다. 말 자체는 조금 과하지만, 배경은 이해할 만합니다.

AI 데이터센터가 HBM과 고성능 메모리를 빨아들이고 있습니다. 동시에 스마트폰과 PC도 AI 기능을 넣겠다며 메모리 사양을 올리려 합니다. 공급은 단기간에 크게 늘리기 어렵습니다. 반도체 공장은 버튼 하나로 바로 증설되지 않습니다.

그러면 가격 압박이 생깁니다. 특히 저가형 PC나 보급형 스마트폰은 더 민감합니다. 메모리 가격이 오르면 제조사는 선택해야 합니다. 가격을 올리거나, 마진을 줄이거나, 사양을 낮추거나.

그래서 가트너는 500달러 이하 저가형 PC 시장이 2028년경까지 사라질 수 있다고 경고했습니다. AI 기능을 넣으려면 기본 사양은 올라가는데, 소비자가 받아들일 수 있는 가격에는 한계가 있기 때문입니다. Tom’s Hardware, PCWorld, The Register 등 여러 매체가 같은 분석을 보도했습니다.

AI 스마트폰은 왜 저장공간도 중요할까

메모리라고 하면 보통 D램만 떠올리지만, 온디바이스 AI에서는 저장공간도 같이 봐야 합니다.

AI 모델, 개인화 데이터, 이미지·영상 처리 결과, 캐시 데이터가 기기 안에 더 많이 남을 수 있습니다. 그러면 낸드플래시, 즉 저장장치의 역할도 커집니다.

이 흐름에서 HBS 같은 개념이 나옵니다. HBS는 High Bandwidth Storage로 보는 것이 안전합니다. SK하이닉스가 언급한 D램과 낸드 적층 패키지 맥락에서는, 서버용 HBM을 대체한다기보다 스마트폰과 온디바이스 AI 환경에서 메모리와 저장공간 사이의 병목을 줄이려는 시도로 이해하는 편이 낫습니다.

중요한 건 이름이 아닙니다. 스마트폰 안에서도 “빠른 작업 공간”과 “큰 저장공간” 사이의 거리를 줄이려는 요구가 커지고 있다는 점입니다.

소비자에게는 어떤 변화가 올까

첫 번째 변화는 가격입니다. AI 기능이 들어간 기기는 기본 부품 사양이 올라갑니다. AP, NPU, D램, 낸드, 배터리, 열 설계가 모두 영향을 받습니다. 제조 원가가 올라가면 소비자 가격에도 반영될 수 있습니다.

두 번째 변화는 제품 등급의 차이입니다. 예전에는 카메라나 화면이 프리미엄 모델을 나누는 기준이었다면, 앞으로는 “어떤 AI 기능을 기기 안에서 바로 돌릴 수 있느냐”가 등급을 가를 수 있습니다. 같은 AI 기능이라도 어떤 모델은 서버 연결이 필요하고, 어떤 모델은 기기 안에서 더 빠르게 처리할 수 있습니다.

세 번째 변화는 교체 주기입니다. AI 기능이 운영체제 기본 기능처럼 들어오면 오래된 기기는 메모리 부족으로 일부 기능을 제대로 쓰기 어려울 수 있습니다. 스마트폰과 PC의 교체 이유가 “느려져서”에서 “AI 기능을 못 써서”로 바뀔 가능성도 있습니다.

기업에게는 비용 구조 문제다

온디바이스 AI는 소비자 기기 이야기처럼 보이지만, 기업에도 영향을 줍니다.

사내 업무용 PC에 AI 기능이 기본 탑재되면 최소 메모리 기준이 올라갈 수 있습니다. 8GB로 충분했던 업무가 16GB를 요구하고, 16GB가 기본이던 작업이 32GB를 요구할 수 있습니다. 개발자, 디자이너, 데이터 분석가처럼 로컬에서 무거운 도구를 쓰는 직군은 더 빨리 영향을 받을 수 있습니다.

기업 입장에서는 단말 교체 비용, 보안 정책, 클라우드 AI 사용료, 로컬 AI 성능을 같이 봐야 합니다. 모든 AI를 클라우드로 보낼지, 일부는 PC나 스마트폰 안에서 처리할지에 따라 비용 구조가 달라집니다.

온디바이스 AI는 단순히 “기능이 하나 더 생겼다”가 아닙니다. 기업 IT 예산 안에서 클라우드 비용과 단말 비용의 균형을 다시 묻는 변화입니다.

메모리 업체에는 어떤 의미일까

AI 서버 중심의 메모리 수요는 이미 HBM에서 강하게 나타났습니다. 온디바이스 AI가 확산되면 범용 D램과 낸드 쪽에도 다른 형태의 수요가 생길 수 있습니다.

다만 단순히 “메모리 수요가 무조건 늘어난다”로 보면 위험합니다. 소비자 기기는 가격 저항이 큽니다. 스마트폰이나 PC 가격이 너무 오르면 수요가 둔화될 수 있습니다. 제조사도 모든 모델에 최고 사양을 넣을 수 없습니다.

그래서 기술적으로 확인할 질문은 세 가지입니다.

  • AI 기능이 실제로 매일 쓰이는가
  • 소비자가 더 비싼 기기를 받아들이는가
  • 제조사가 메모리 원가 상승을 얼마나 흡수할 수 있는가

이 세 가지가 맞아야 온디바이스 AI가 메모리 시장의 지속적인 수요로 이어질 수 있습니다.

한 문장으로 정리하면

온디바이스 AI는 AI를 스마트폰과 PC 안으로 끌어오는 흐름이고, 그 결과 기기 안의 D램과 저장공간 요구가 함께 올라가면서 메모리 증설과 기기 가격 인상 압력을 만들 수 있습니다.

독자에게 던질 질문

다음 스마트폰이나 노트북을 살 때, 카메라와 배터리만 볼까요? 아니면 “AI 기능을 제대로 돌릴 만큼 메모리가 충분한가”도 함께 보게 될까요?


다음에 읽을 글

온디바이스 AI의 메모리 요구를 이해했다면, HBM·HBF·HBS가 각각 어떤 메모리 계층을 가리키는지도 함께 보면 좋습니다.
HBM, HBF, HBS 차이 쉽게 보기

체크포인트

  • 온디바이스 AI가 칩 성능뿐 아니라 D램과 낸드 저장공간을 함께 요구한다는 점을 이해했는가?
  • 서버 AI의 HBM 압박과 개인 기기 내부의 LPDDR·낸드 압박을 구분했는가?
  • HBS를 High Bandwidth Storage, 즉 D램+낸드 적층 패키지 맥락으로 이해했는가?
  • AI 기능 확산이 소비자 기기 가격, 제품 등급, 교체 주기에 어떤 변화를 만들 수 있는지 확인했는가?

확인한 출처 / 근거

Gartner와 IDC 수치는 전망 또는 시나리오입니다. 특정 기기의 실제 가격·메모리 용량은 제조사 발표 전까지 확정 정보가 아니며, HBS 역시 공식 제품 발표가 확인되지 않은 보도 단계입니다.