고대역폭 메모리 High Bandwidth Memory

2세대 고대역폭 메모리 HBM2

 

High Bandwidth Memory 2013년에 발표된 고대역폭 메모리 적층형 메모리 규격

 

고대역폭 메모리(HBM)는 삼성전자, AMD, 하이닉스가 개발한 3D 스택형 DRAM을 위한 고성능 RAM 인터페이스입니다. 고성능 그래픽 가속기와 네트워킹 장치에 연결하는 데 사용됩니다. HBM을 사용한 최초의 장치는 AMD Fiji GPU입니다.

HBM은 기존의 DRAM 인터페이스에 비해 다음과 같은 여러 가지 장점을 가지고 있습니다.

더 높은 대역폭: HBM은 최대 256GB/s의 대역폭을 제공할 수 있으며, 이는 GDDR5가 제공하는 128GB/s의 대역폭보다 훨씬 높습니다.
더 낮은 전력 소비: HBM은 기존의 DRAM 인터페이스보다 전력 소비가 적어 모바일 장치 및 전력 소비가 중요한 기타 애플리케이션에 이상적입니다.
더 작은 풋프린트: HBM은 기존의 DRAM 인터페이스보다 더 작아 공간이 제한된 애플리케이션에 이상적입니다.

 

HBM은 다음과 같은 다양한 애플리케이션에 사용됩니다.

고성능 그래픽: HBM은 고성능 그래픽 카드에서 요구되는 대역폭을 제공하기 위해 사용됩니다.
네트워킹: HBM은 고속 데이터 전송에 필요한 대역폭을 제공하기 위해 네트워킹 장치에서 사용됩니다.
워크스테이션: HBM은 3D 렌더링 및 비디오 편집과 같은 demanding 애플리케이션에 필요한 성능을 제공하기 위해 워크스테이션에서 사용됩니다.

HBM은 기존의 DRAM 인터페이스에 비해 상당한 성능 및 전력 이점을 제공하는 유망한 새로운 기술입니다. 앞으로 더 넓은 범위의 애플리케이션에서 사용될 것으로 예상되며, 결국 기존의 DRAM 인터페이스를 대체할 수 있습니다.

여기에는 HBM에 대한 몇 가지 추가 세부 정보가 있습니다.

2.5D 스택형 DRAM 아키텍처를 사용하며, 이는 단일 다이에 더 많은 메모리를 배치할 수 있습니다.
DRAM 레이어를 연결하기 위해 실리콘 관통 비아(TSV)를 사용합니다.
최대 2.4Gbps의 데이터 속도를 지원합니다.
최대 8GB의 용량으로 제공됩니다.

HBM은 비교적 새로운 기술이며 아직 개발 중입니다. 그러나 메모리 환경을 혁신할 잠재력이 있습니다. 앞으로 더 넓은 범위의 애플리케이션에서 사용될 것으로 예상되며, 결국 기존의 DRAM 인터페이스를 대체할 수 있습니다.

HBM은 높은 구현 난이도로 인해 DRAM에 비해 3~5배의 가격대로 책정되어 있습니다. 단순히 기판에 붙이면 되는 SGRAM에 비해 HBM은 추가로 미세회로인 인터포저를 그려넣는 공정이 추가로 필요합니다. 이 때문에 GDDR 계열 SGRAM보다 구현이 어렵다는 단점이 있습니다. 사실상 인터포저 때문에 HBM의 장점을 다 깎아먹고 있다고 봐도 과언이 아닙니다.

지지부진한 수율 상승과 GDDR 계열 SGRAM의 최신 규격인 GDDR6에 비해서 뚜렷하게 우세하지 못한 성능[1]과 높은 구현 난이도로 인한 비싼 가격으로 일반적인 소비자용 그래픽카드에 적용되어 있는 GDDR을 완전히 대체하기에는 무리가 있습니다. 때문에 현재는 HBM이 마냥 장밋빛 전망인 것은 아닙니다.

HBM은 복잡한 구조와 낮은 공정 숙련도로 인해 내구성이 떨어진다는 단점이 있습니다. HBM이 적용된 Radeon VII과 같은 그래픽 카드의 경우 아무래도 기존의 그래픽카드에 많이 사용되던 GDDR이 아닌 새로운 형태의 메모리이고 구조도 복잡하기 때문에 내구성이 떨어져 메모리가 고장나면서 그래픽카드가 돌연사 하는 경우가 종종 나타나고 있습니다. 또한 메모리가 고장났을 시 리솔더링을 통해 비교적 쉽게 수리가 가능한 GDDR과 달리 그래픽 카드 다이에 인터포저가 직결되어 있는 HBM은 수리가 굉장히 까다로우며, 사실상 자가수리가 불가능하다고 보아야 합니다.

 

HBM은 낮은 메모리 클럭과 낮은 오버클럭 마진이라는 단점이 있습니다. 기본적으로 HBM 메모리는 대역폭이 GDDR 대비 엄청나게 넓지만, 동작 속도 자체가 훨씬 낮고 GDDR에 비해 구조가 복잡합니다. 또한 여러 개의 칩으로 구성되어 열원이 분산되는 GDDR에 비해 하나의 칩에 적층으로 구성되어 있어 열원이 더 집중되어 나타납니다. 그러므로 방열에 더욱 불리한 구조를 가지고 있습니다. 따라서 메모리 오버클럭으로 인한 성능 증가에 비하여 발열의 증가가 GDDR의 경우보다 더욱 크기 때문에 오버클럭을 통한 성능향상에 한계가 있습니다.

 

규격	채널&스택당다이	최대용량	클럭(비트레이트)
HBM (2013년)	8채널 x 128bit x 4 Hi	4GB	500 MHz (1 Gbps)
HBM2 (2016년)	8채널 x 128bit x 8 Hi	8GB	1000 MHz (1 Gbps)
HBM2E (2018년)	8채널 x 128bit x 12 Hi	24GB	1200 MHz (1 Gbps)
HBM3 (2022년)	16채널 x 64bit x 16 Hi	64GB	3200 MHz (1 Gbps)

 

HBM은 일반적으로 그래픽 카드의 GDDR을 대체하는 용도로 활용됩니다. 그리고 성능 면에서도 GDDR과 자주 비교됩니다. 일반적인 비교 기준은 다음과 같습니다.

• HBM vs GDDR5 SGRAM
• HBM2 vs GDDR5X SGRAM
• HBM2E vs GDDR6, GDDR6X SGRAM

HBM은 일반 D램보다 데이터 전송 속도가 빠르고, AI 서버에 적합한 메모리입니다. 삼성전자와 SK하이닉스가 HBM 제품 개발에 공을 들이고 있으며, 향후 HBM 시장이 성장할 것으로 전망됩니다.

 

 

HBM은 고대역폭 메모리(High Bandwidth Memory)의 약자로, 2.5D 스택형 DRAM을 사용한 고성능 메모리입니다. HBM은 일반 D램보다 데이터 전송 속도가 빠르고, 전력 소비가 적으며, 풋프린트가 작습니다. 이 때문에 AI 서버, 그래픽 카드, 워크스테이션과 같은 고성능 애플리케이션에 적합합니다.

삼성전자와 SK하이닉스는 HBM 제품 개발에 공을 들이고 있습니다. 삼성전자는 2013년 세계 최초로 HBM을 개발했으며, 2016년에는 HBM2를, 2018년에는 HBM3를 출시했습니다. SK하이닉스도 2018년 세계 최초로 HBM2E를 출시했으며, 2020년에는 HBM3E를 출시했습니다.

HBM 시장은 아직 초기 단계에 있지만, 향후 성장할 것으로 전망됩니다. AI, 그래픽, 워크스테이션과 같은 고성능 애플리케이션의 수요가 증가함에 따라 HBM 수요도 증가할 것으로 예상됩니다.