투자 기본 개념
HBM이란? AI 반도체에서 중요한 이유
HBM의 구조, 일반 DRAM과의 차이, AI 가속기와 연결되는 방식, 메모리 기업을 볼 때 확인할 지표를 설명합니다.이 글의 목차
한 문장으로 이해하기
HBM(High Bandwidth Memory)은 여러 개의 DRAM 칩을 수직으로 쌓고, 칩 사이를 매우 넓은 통로로 연결해 한 번에 많은 데이터를 주고받도록 만든 고대역폭 메모리입니다. 단순히 저장 용량을 늘린 제품이 아니라, AI 가속기가 계산에 필요한 데이터를 충분히 빠르게 공급받도록 돕는 부품입니다.
대역폭과 용량은 다른 말이다
메모리를 이야기할 때 두 단어가 자주 섞입니다. 구분해두면 HBM이 왜 따로 존재하는지 이해하기 쉽습니다.
- 용량(GB): 얼마나 많이 담을 수 있는가. 창고의 크기.
- 대역폭(GB/s): 초당 얼마나 많이 옮길 수 있는가. 창고와 작업장 사이 도로의 폭.
- 지연시간(latency): 요청 후 첫 데이터가 도착하기까지 걸리는 시간.
AI 연산에서 병목이 되는 쪽은 주로 대역폭입니다. HBM은 도로를 넓히는 방향으로 설계된 제품입니다.
일반 DRAM과 무엇이 다른가
일반적인 서버용 DRAM은 메인보드의 메모리 슬롯에 장착됩니다. HBM은 GPU나 AI 가속기 가까이에 배치되고, 실리콘 인터포저나 첨단 패키징을 통해 연결됩니다. 이동 거리가 짧고 데이터 통로가 넓기 때문에 전력 대비 처리량을 높일 수 있습니다.
| 구분 | 일반 DRAM | HBM |
|---|---|---|
| 배치 | 메인보드 메모리 슬롯 | 가속기 가까운 패키지 |
| 연결 폭 | 상대적으로 좁음 | 매우 넓음 |
| 주요 용도 | 범용 서버·PC·모바일 | AI·고성능 컴퓨팅 |
| 제조 난도 | 공정과 모듈 중심 | 적층·본딩·패키징까지 중요 |
HBM은 여러 공정을 한꺼번에 안정화해야 합니다. DRAM 자체 수율뿐 아니라 TSV, 적층, 열 관리, 패키징과 고객 인증이 모두 출하 시점에 영향을 줍니다.
어떻게 만들어지나
HBM이 일반 메모리보다 비싸고 공급이 빨리 늘지 않는 이유는 공정 단계가 더 많기 때문입니다.
- DRAM 다이 생산: 기본이 되는 메모리 칩을 만듭니다.
- TSV 형성: 칩을 수직으로 관통하는 미세한 전극 통로를 뚫습니다.
- 적층과 본딩: 여러 장의 다이를 쌓아 전기적으로 연결합니다.
- 베이스 다이 결합: 아래쪽 제어용 칩과 붙입니다.
- 패키징: 인터포저 위에서 가속기와 함께 하나의 패키지로 조립합니다.
- 고객 인증: 가속기 제조사의 검증을 통과해야 납품이 시작됩니다.
각 단계의 수율이 곱해지므로, 한 단계만 낮아도 최종 양품 비율이 크게 떨어집니다. “생산능력을 늘렸다”는 발표가 곧바로 출하 증가로 이어지지 않는 이유입니다.
AI 가속기에 왜 필요한가
AI 모델은 대량의 행렬 연산을 반복합니다. 연산 장치가 빨라도 필요한 데이터를 제때 받지 못하면 계산 유닛이 대기하게 됩니다. 이 현상을 메모리 병목이라고 부릅니다. HBM은 이 병목을 줄이기 위해 초당 전달할 수 있는 데이터량을 키운 제품입니다.
특히 학습된 모델을 실제로 사용하는 추론 단계에서는 모델 가중치를 반복해서 읽어야 합니다. 메모리 용량이 부족하면 큰 모델을 여러 장치에 나눠야 하고, 대역폭이 부족하면 응답이 느려집니다. 가속기 한 장에 얼마나 큰 모델을 얹을 수 있는지가 HBM 용량과 직결되는 이유입니다.
따라서 AI 서버 수요가 증가하면 GPU 출하뿐 아니라 가속기 한 개에 탑재되는 HBM 용량과 세대 변화도 중요해집니다. 다만 AI 투자 증가가 곧바로 모든 메모리 업체의 같은 폭 실적 증가를 의미하지는 않습니다. 고객 인증, 제품 구성, 계약 가격과 생산 수율이 서로 다르기 때문입니다.
HBM 세대 숫자가 뜻하는 것
HBM2E, HBM3, HBM3E, HBM4처럼 세대가 바뀌면 대역폭과 적층 구성, 전력 효율, 인터페이스가 개선됩니다. 세대 전환기에는 개발 완료 발표와 실제 양산 매출을 구분해야 합니다.
다음 네 단계는 같은 의미가 아닙니다.
- 샘플 제작
- 고객사 평가 또는 인증
- 양산 시작
- 유의미한 매출 인식
기업 발표에서 어느 단계인지 확인하지 않으면 기술 성과를 즉시 실적으로 오해할 수 있습니다. 1단계와 4단계 사이에는 보통 여러 분기의 시차가 있습니다.
세대 표기 옆에 붙는 8단(8-Hi), 12단(12-Hi) 같은 숫자는 몇 장을 쌓았는지를 뜻합니다. 같은 세대라도 적층 수가 늘면 용량이 커지지만 열과 수율 관리가 어려워집니다.
공급망에서 누가 무엇을 하나
HBM 한 개가 서버에 들어가기까지 여러 회사가 관여합니다. 뉴스에서 한 회사 이름만 보고 전체 흐름을 판단하지 않도록 역할을 구분해두면 좋습니다.
| 역할 | 하는 일 |
|---|---|
| 메모리 제조사 | HBM 다이 생산, 적층 |
| 가속기 설계사 | GPU·AI 가속기 설계와 HBM 채택 결정 |
| 파운드리 | 가속기 칩 생산과 첨단 패키징 |
| 장비·소재 업체 | 본딩 장비, 테스트, 기판과 소재 공급 |
| 서버·클라우드 사업자 | 최종 수요, 자본지출 결정 |
관련 기업을 볼 때 확인할 숫자
- HBM 매출 비중과 출하 증가율
- 고객 인증 완료 여부와 양산 시점
- 일반 DRAM 대비 수익성
- 첨단 패키징과 웨이퍼 생산능력
- 장기 공급계약과 가격 조건
- HBM 증설 때문에 일반 DRAM 공급이 줄어드는지 여부
엔비디아 같은 가속기 업체에서는 차세대 플랫폼의 출시 시점과 한 시스템당 HBM 탑재량을 확인해야 합니다. 삼성전자·SK하이닉스·마이크론에서는 세대별 인증, 수율, 생산능력과 실제 매출 기여도를 봐야 합니다.
HBM 호황이 끝난다면 어떤 신호가 먼저 보일까
- 클라우드 사업자의 자본지출 계획 하향
- 가속기 신제품 출시 일정 지연
- 장기 공급계약의 가격 조건 변화
- 메모리 3사의 동시 증설로 인한 공급 증가
- 범용 DRAM 가격과 HBM 가격의 격차 축소
흔히 생기는 오해
“HBM 시장이 성장한다”와 “특정 회사의 이익이 같은 속도로 증가한다”는 다른 문장입니다.
공급 확대가 가격 하락으로 이어질 수 있고, 고객사가 제품 구성을 바꿀 수도 있습니다. 생산능력 확보에 큰 투자가 들어가므로 매출뿐 아니라 감가상각과 현금흐름도 함께 확인해야 합니다.
“HBM은 일반 DRAM을 대체한다.” 용도가 다릅니다. 서버·PC·모바일의 범용 DRAM 수요는 별도로 존재하며, 오히려 HBM 증설이 범용 DRAM 생산능력을 잠식해 범용 가격에 영향을 주기도 합니다.
“기술을 먼저 발표한 회사가 시장을 가져간다.” 가속기 제조사의 인증을 통과하고 안정적인 물량을 공급하는 것이 실제 매출을 좌우합니다.
원문을 확인할 곳
이 가이드는 기술과 산업 구조를 설명하며 특정 종목의 매매를 권하지 않습니다. 세대별 사양과 각사의 양산 단계는 계속 바뀌므로 판단에 중요한 수치는 각 회사의 최신 발표와 분기보고서에서 다시 확인해야 합니다.