HBM이 무엇일까? 고성능 메모리 구조 알아보기

HBM이란?#

HBM(High Bandwidth Memory)는 고대역폭 메모리 기술로, 빠르고 전력 효율이 높은 D램 기술이다.

HBM은 AI 및 GPU가 방대한 양의 데이터를 빠르게 전송할 때 사용된다.

HBM의 구조?#

HBM은 다음과 같이 생겼다. 위 사진의 HBM 스택 부분을 보면, 여러개의 메모리가 수직으로 쌓여있는 게 보인다.

이 메모리에 미세한 구멍을 뚫어, 전극을 한 번에 연결하는 TSV(Through Silicon Via)를 이용하여 최대 1024개의 전기적 통로를 갖도록 했다.

이는 기존의 그래픽 처리용 메모리의 최대 32개 전기적 통로 개수와 비교하면 압도적으로 많은 숫자다.

동일한 물줄기의 호수 개수가 많을수록 물을 더 많이 흐르게 할 수 있는 것과 같다.

위 구조를 조금 더 자세히 살펴보자.

HBM과 관련된 질문 정리#

Q. 왜 AI 시대에는 일반 DDR D램보다 HBM이 더 중요한가?

AI 모델(예: ChatGPT)은 천문학적인 양의 데이터를 한 번에 학습하고 처리해야 한다. 기존의 D램은 데이터가 지나가는 통로가 좁아 병목 현상이 발생했다. HBM은 TSV 기술을 통해 통로를 1,024개까지 늘린 데이터 고속도로와 같다. GPU가 아무리 빨라도 메모리가 데이터를 제때 공급하지 못하면 무용지물이기 때문에, 엔비디아 같은 기업들이 HBM 확보에 사활을 거는 것.

Q. SK하이닉스와 삼성전자의 기술력 차이로 언급되는 '패키징'이 무엇인가?

HBM은 여러 층의 D램을 쌓는 만큼 '열 관리'와 '안정적인 접합'이 핵심.

• SK하이닉스 (MR-MUF): 칩 사이에 액체 형태의 보호재를 채워 굳히는 방식으로, 방열 성능이 우수해 현재 시장 주도권을 잡는 데 큰 역할을 함.

• 삼성전자 (TC-NCF): 칩 사이에 비전도성 필름을 넣어 쌓는 방식으로, 칩이 얇아질수록(12단, 16단 등) 적층 높이를 제어하는 데 유리

Q. HBM 단수가 높아지면(8단 → 12단 → 16단) 무엇이 좋아지나?

한정된 공간 안에 더 많은 데이터를 담을 수 있게 된다. 최근 AI 서비스가 고도화되면서 더 큰 파라미터를 처리해야 하므로, 고객사들은 점점 더 높게 쌓은 HBM을 요구하고 있다. 이는 곧 반도체 제조사의 평균 판매 단가 상승과 수익성 개선으로 직결된다.

Q. HBM은 일반 D램처럼 재고가 쌓이면 가격이 폭락할지?

HBM은 일반 D램과 판매 방식이 다르다.

1. 수주형 비즈니스: 고객사(엔비디아 등)와 미리 물량을 확정 짓고 생산

2. 커스텀 메모리: 고객사의 요구에 맞춰 '로직 다이' 설계를 변경.

따라서 일반 범용 D램에 비해 재고 리스크가 낮고 가격 방어력이 매우 높다.

Q. 'HBM4'부터는 파운드리(위탁생산) 기업과의 협력이 왜 중요한가?

본문에서 언급된 로직 다이 때문. 차세대인 HBM4부터는 이 로직 다이를 메모리 업체가 직접 만드는 게 아니라, TSMC 같은 파운드리 업체에서 최첨단 공정으로 제조하게 된다. 따라서 삼성전자의 '턴키(일괄 생산) 전략'이나 SK하이닉스-TSMC 연합의 성과가 향후 주가의 핵심 변수가 될 전망이다.

TIP

HBM은 공정 난이도가 매우 높아 불량률(수율)이 수익성에 미치는 영향이 크다. 뉴스에서 ‘수율 안정화’ 혹은 ‘퀄 테스트(품질 인증) 통과’라는 단어가 나오면 해당 기업의 실적이 퀀텀 점프할 신호로 해석할 수 있다.

함께 보면 좋은 글

SK 하이닉스, 삼성전자 주가 상승 이유 분석해보기