HBM(High Bandwidth Memory, 고대역폭 메모리)은 D램 다이를 수직으로 여러 층 쌓고 실리콘관통전극(TSV)으로 연결한 뒤, 그 위에 GPU 같은 로직 다이를 얹어 수천 개의 핀으로 한 번에 데이터를 주고받는 메모리 구조입니다. 기존 GDDR 메모리보다 대역폭이 훨씬 넓어, AI 학습·추론처럼 '데이터를 끊임없이 퍼부어야 하는' 작업에 필수적입니다. SK하이닉스·삼성전자·마이크론 3개 회사가 사실상 시장을 양분하며, 엔비디아 등 AI 가속기 업체에 공급합니다.