HBM이란? 왜 'AI 시대의 쌀'이라 불릴까 — AI 반도체 투자 교과서 ①

Thu, 02 Jul 2026 21:40:00 +0900

요즘 경제 뉴스를 보면 하루가 멀다 하고 나오는 단어가 있습니다. 바로 HBM입니다. “하이닉스가 HBM 덕에 사상 최대 실적”, “HBM4 경쟁에서 앞섰다”… 이런 뉴스에 삼성전자나 SK하이닉스를 이미 담으셨거나, 지금이라도 사야 하나 고민 중인 분들 많으실 거예요. 그런데 정작 “HBM이 뭔데?“라고 물으면 명확히 답할 수 있는 사람은 드뭅니다. 내 돈이 들어가는 회사가 뭘로 돈을 버는지는 알고 투자해야 뉴스에 흔들리지 않죠. 이 글에서 딱 정리하고 갑니다.

HBM은 ‘아파트처럼 쌓은 메모리’입니다

HBM(High Bandwidth Memory)은 이름 그대로 고대역폭 메모리입니다. 핵심 아이디어는 의외로 단순해요. 우리가 아는 일반 D램이 단독주택을 옆으로 늘어놓은 것이라면, HBM은 D램 칩을 아파트처럼 8층, 12층, 16층으로 수직으로 쌓은 것입니다.

쌓기만 한 게 아닙니다. 층과 층 사이를 **TSV(실리콘 관통 전극)**라는 수천 개의 미세한 엘리베이터로 연결해서, 데이터가 오르내리는 통로를 압도적으로 넓혔습니다. 일반 D램이 왕복 2차선 도로라면 HBM은 수백 차선 고속도로인 셈이죠. ‘고대역폭’이라는 이름이 여기서 나옵니다.

왜 AI에는 HBM이 필수일까

AI 반도체의 주인공은 엔비디아의 GPU입니다. 그런데 GPU에는 오래된 고민이 하나 있어요. 연산 속도는 어마어마하게 빨라졌는데, 데이터를 가져오는 메모리가 그 속도를 못 따라간다는 겁니다. 아무리 일 잘하는 요리사(GPU)도 재료(데이터)가 제때 안 오면 놀 수밖에 없죠. 반도체 업계는 이걸 **‘메모리 월(memory wall)’**이라고 부릅니다.

HBM은 이 벽을 넘기 위한 답입니다. GPU 바로 옆자리에 붙어서, 수백 차선 고속도로로 데이터를 쏟아부어 줍니다. 그래서 엔비디아의 AI 칩에는 HBM이 반드시 여러 개 붙습니다. AI 서버가 한 대 팔릴 때마다 HBM이 같이 팔리는 구조예요. 반도체가 ‘산업의 쌀’이라면 HBM이 ‘AI 시대의 쌀’이라 불리는 이유입니다.

왜 돈이 될까 — 일반 D램과의 결정적 차이

투자자 입장에서 중요한 건 이겁니다. HBM은 일반 D램보다 몇 배 비싸게 팔립니다. 이유는 두 가지예요.

	일반 D램	HBM
구조	칩 1장	칩 8~16장 적층 + TSV
만들기	상대적으로 쉬움	매우 어려움 (수율 확보가 관건)
가격	범용품, 시황 따라 등락	고부가가치, 장기 공급계약 중심
고객	불특정 다수	엔비디아 등 소수 대형 고객

첫째, 만들기가 어렵습니다. 얇게 깎은 칩을 수직으로 쌓고 수천 개 구멍으로 연결하는 공정은 한 층만 불량이어도 전체를 버려야 해서, 수율(양품 비율)을 잡은 회사만 돈을 법니다. 둘째, 파는 방식이 다릅니다. 범용 D램이 시황 따라 가격이 출렁이는 ‘시장 판매’라면, HBM은 엔비디아 같은 큰손과 1~2년치 물량을 미리 계약하는 구조라 실적 안정성이 높습니다.

메모리 반도체는 원래 경기 따라 이익이 롤러코스터를 타는 산업이었는데, HBM이 그 공식을 바꾸고 있는 겁니다.

지금 누가 만들고 있나

HBM을 만들 수 있는 회사는 전 세계에 SK하이닉스, 삼성전자, 마이크론 딱 셋뿐입니다. 이 중 SK하이닉스가 엔비디아 공급을 선점하며 시장을 이끌어 왔고, 올해부터는 차세대 규격인 HBM4(엔비디아 차세대 플랫폼 ‘루빈’에 탑재)를 둘러싼 경쟁이 본격화됐습니다. 증권가에서는 HBM4에서도 SK하이닉스가 70% 안팎의 점유율을 지킬 것이라는 전망이 나오면서 목표주가가 줄줄이 올라갔죠. 이 경쟁 구도는 시리즈 2편에서 자세히 다루겠습니다.

정리

HBM은 D램을 수직으로 쌓아 데이터 통로를 극대화한 메모리로, GPU의 ‘메모리 월’ 문제를 풀어주는 AI 인프라의 필수 부품입니다.
만들기 어렵고, 소수 대형 고객과 장기 계약으로 팔리기 때문에 일반 D램보다 훨씬 비싸고 실적 안정성이 높습니다.
공급사는 SK하이닉스·삼성전자·마이크론 셋뿐이며, 지금은 HBM4 경쟁이 주가의 핵심 변수입니다.

⚠️ 이 글은 AI를 활용해 투자 관련 내용을 공부하며 정리한 글입니다. 특정 종목이나 투자 방식에 대한 권유가 아니며, 내용에 오류가 있거나 최신 정보와 다를 수 있습니다. 실제 투자 전에는 공식 자료를 직접 확인하시기 바랍니다. 투자 판단과 그 결과에 대한 책임은 투자자 본인에게 있습니다.

HBM on To the Moon

HBM이란? 왜 'AI 시대의 쌀'이라 불릴까 — AI 반도체 투자 교과서 ①

HBM은 ‘아파트처럼 쌓은 메모리’입니다

왜 AI에는 HBM이 필수일까

왜 돈이 될까 — 일반 D램과의 결정적 차이

지금 누가 만들고 있나

정리