(출처: SK 하이닉스)
메모리 규격을 정하는 JEDEC 에서 HBM4 (High Bandwidth Memory 4)의 공식 스펙인 JESD238 규격이 정식으로 공개됐습니다. 적층형 메모리 규격인 HBM은 AI 연산에 필요한 막대한 데이터를 감당할 수 있는 차세대 메모리로 현재 HBM3와 HBM3e 가 사용되고 있으나 현재 블랙웰 GPU 다음으로 등장할 루빈 GPU 에서는 HBM4 메모리 사용이 확정된 상태입니다. 루빈 GPU는 무려 288GB의 HBM4 메모리를 탑재해 13TB/s의 대역폭을 확보합니다 .
HBM4 메모리에서 가장 큰 변화는 2048 bit 인터페이스 적용입니다. 이전까지 1024bit 인터페이스를 적용한 것과 비교해 대역폭이 두 배로 늘어나면서 총 대역폭이 2TB/s로 증가하게 됩니다. 그리고 각 층마다 독립적인 채널이 HBM3의 16개에서 32개로 두 배로 증가해 늘어난 데이터 인터페이스를 감당하게 됩니다.
또 다른 중요한 특징은 메모리 밀도의 증가입니다. HBM4 메모리는 24Gb 혹은 32Gb의 D램 다이를 4층에서 16층 (16 high)으로 적층할 수 있습니다. 따라서 이론적으로 메모리 한 개에 64GB라는 용량을 제공할 수 있습니다. 8개를 하나의 GPU나 CPU에 사용할 경우 512GB 메모리와 16TB/s의 대역폭 확보가 가능한 것입니다. 하지만 처음부터 이런 스펙으로 나오기는 힘들기 때문에 루빈 GPU도 288GB 메모리에 13TB/s의 대역폭을 확보할 예정입니다.
참고로 현재 SK 하이닉스가 12단 HBM4 메모리 샘플을 고객사에 이미 공급한 상태이고 인증을 거쳐 하반기에 생산에 들어간다는 계획을 가지고 있습니다. 따라서 생각보다 멀지 않은 시기에 HBM4 메모리를 사용한 제품들이 나올 것입니다. HBM4 12단 제품의 용량은 정확하게 말하지 않았으나 24Gb 적용시 3x12=36GB라는 계산이 나옵니다. 대역폭은 2TB/s라고 합니다.
다른 이야기지만, HBM 메모리는 본래 게이밍 GPU에 가장 먼저 사용됐습니다. 현재는 서버 GPU 및 일부 CPU에 사용되고 있지만, 대량 생산으로 가격이 내려갈 경우 GDDR의 강력한 경쟁자가 될 수 있다고 생각합니다. 일반 소비자도 HBM 메모리를 사용하는 날이 오기를 기대합니다.
참고
https://news.skhynix.co.kr/sk-hynix-hbm4-sample/

댓글
댓글 쓰기