(출처: 엔비디아)
최근 기록적인 호실적을 발표하면서 주가가 폭등한 엔비디아가 첫 고성능 CPU - GPU 하이브리드 제품인 그레이스 호퍼 슈퍼칩 Grace Hopper “superchip” 의 양산에 들어갔다고 발표했습니다.
최대 72코어의 Arm Neoverse V2 기반 코어와 480GB의 LPDDR5 메모리를 탑재할 수 있는 그레이스 CPU와 800억 개의 트랜지스터를 집적한 H100 GPU를 결합한 그레이스 호퍼 슈퍼칩은 GH200이라는 약자로 불리고 있습니다.
이 둘을 연결하는 것은 최대 900GB/s의 대역폭을 지닌 NVLink4로 그외에도 여러 개의 칩을 서로 연결하는데 엔비디아의 독자 고속 인터페이스 기술이 사용되고 있습니다. 특히 GH200의 DGX 버전인 DGX GH200은 24개의 랙에 총 256개의 GH200 모듈을 탑재하고 있어 이를 서로 연결하는 고속 인터페이스가 중요합니다.
이렇게 많은 CPU와 GPU를 연결한 DGX HG200 은 120TB의 CPU 메모리와 24TB의 GPU 메모리를 장착할 수 있으며 1엑사플롭스급 FP8 연산 능력을 통해 대규모 AI 연산이 가능한 인공지능 전용 슈퍼컴퓨터가 되었습니다.
최근의 ChatGPT를 포함한 생성형 인공지능 수요가 폭발하면서 매우 강력한 AI 성능을 지닌 DGX GH200 슈퍼컴퓨터의 미래도 밝아 보입니다. 다만 가격도 그만큼 올라가서 개인이 구매하기는 어렵고 연구소 및 기업 연구용으로 주로 팔리게 될 것으로 보입니다.
참고
댓글
댓글 쓰기