HBM4 메모리를 GPU 위에 올린다?

 (출처: 마이크론)

​

​

엔비디아와 SK 하이닉스가 HBM4 메모리를 프로세서 위에 적층하는 기술을 개발하기 위해 연구를 시작했다는 소식입니다. 물론 공식 보도 자료가 아니라 국내 언론 기사를 탐스 하드웨어 같은 외국 언론이 인용보도 한 것이기 때문에 진위 여부는 확인이 어려우나 시도 자체는 그럴 듯 하다는 생각입니다.

​

​

메모리를 프로세서 위에 적층하는 것 자체는 현재 기술력으로도 어렵지 않은 일입니다. 이미 AMD의 3D V 캐시가 그런 형태라고 할 수 있습니다. 이 경우 메모리의 접근성을 높이고 레이턴시를 줄여 속도를 높일 수 있다는 것이 최대 장점입니다.

​

​

당연히 GPU도 그런 기술을 적용할 수 있는데, GDDR 메모리는 칩의 숫자가 많아 다 올리기 힘들고 HBM 메모리나 캐시 메모리의 경우 가능성이 있다고 할 수 있습니다.

​

다만 하나의 층으로 되어 있고 상대적으로 전력 소모량이 적은 캐시 메모리와 달리 이미 메모리 다이를 로직 위에 올린 HBM 메모리를 다시 GPU 위에 올리는 일은 상당한 부담이 될 수 있습니다.

​

​

HBM4 메모리 적층 시 프로세서와 메모리를 연결하는 고속 연결 통로인 인터포저 층 (사진 참조)을 생략할 수 있어 패키지 크기도 줄이고 비용도 낮출 수 있겠지만, 발열을 어떻게 해소할지는 의문입니다. HBM 메모리를 사용하는 고성능 서버 GPU는 자체로 상당한 열이 발생하는데, 여기에 역시 발열량이 상당한 HBM 메모리를 올리는 것은 냉각에 매우 어려운 환경을 만드는 것입니다.

​

​

HBM4 메모리: https://blog.naver.com/jjy0501/223239089484

​

​

하지만 중간에 연결하는 인터포저 층 없이 HBM 메모리가 GPU에 연결되면 3D V 캐시처럼 속도면에서 상당한 장점이 있어 연구는 충분히 해볼 수 있을 것으로 생각합니다. 물론 구조가 복잡한 2048bit의 HBM4 메모리를 적층형으로 연결하는 것도 상당한 도전인데, 과연 실제 제품으로 볼 수 있게 될지 주목됩니다.

​

​

참고

​

​

https://www.tomshardware.com/news/sk-hynix-plans-to-stack-hbm4-directly-on-logic-processors