(출처: 엔비디아)
엔비디아가 개인 연구자와 개발자를 위한 AI 슈퍼컴퓨터/워크스테이션인 DGX Station의 GB300 버전을 공개했습니다. GB300 (그레이스 슈퍼칩 + 블랙웰 울트라 B300 GPU)를 탑재한 DGX 스테이션은 784GB의 통합 메모리 (이중 288GB는 HBM3e 메모리이고 나머지는 SOCAMM으로 보임)를 제공하며 파워는 1800W급의 GPU까지 감당할 수 있는 수준입니다. 방에 놓고 쓰면 전기 난로 같은 열기를 내뿜을 것으로 보입니다.
흥미로운 부분은 3개의 PCIe x16 슬롯을 제공한다는 것인데, 그래픽 카드를 꼽는 용도는 아니고 아마도 SSD를 위한 공간으로 생각됩니다. 별도로 3개의 M.2 슬롯이 있어 SSD를 장착할 수 있습니다. 정확한 가격은 공개하지 않았는데, 용도를 생각하면 일반인이 쉽게 구매할 수 있는 물건은 아닐 것으로 보입니다.
B200을 8개 묶은 DGX B200의 가격이 51만 달러 정도인 점을 보면 DGX 스테이션의 초기 가격은 10만 달러를 넘길 가능성이 매우 높습니다. 그리고 GB300 8개를 묶은 DGX 서버의 가격은 그보다 훨씬 비쌀 것입니다. 케이스 크기를 보면 하나는 8개를 묶은 DGX GB300이고 다른 하나는 GB300 하나가 들어간 DGX 스테이션으로 보입니다.
디짓으로 알려졌던 미니 AI PC는 DGX 스파크 (Spark)라는 이름으로 출시되는데, 엔비디아에 따르면 "GB10은 5세대 텐서 코어(Tensor Core)와 FP4를 지원하는 강력한 엔비디아 블랙웰 GPU를 탑재해 초당 최대 1,000조 회의 연산을 수행"할 수 있다고 합니다. 다만 공개된 정보가 너무 적어 이것이 2999달러의 가격대의 그래픽 카드와 맞먹거나 더 좋은 성능인지는 아직 알 수 없습니다. RTX 5090 대비 더 성능이 우수할지 궁금해지는 대목입니다.
함께 공개한 것 가운데 눈길을 끄는 부품은 바로 SOCAMM (small outline compression attached memory modules) 메모리 입니다. 마이크론의 SOCAMM 메모리는 4개의 16 다이 (die) LPDDR5 메모리를 탑재해 총 128GB의 용량을 확보하면서도 일반적인 메모리인 RIMM의 1/3 크기인 14x90mm의 작은 크기를 자랑합니다. 속도는 9.6GT/s로 일반 PC 메모리보다 거의 두 배 빠른 수준입니다. 참고로 이 제품은 마이크론의 5세대 10nm 공정인 1베타 공정으로 제조된 것입니다.
SK 하이닉스의 SOCAMM 메모리 역시 공개되긴 했으나 속도는 7.5GT/s로 다소 느린 상태이고 아직 양산에 들어간 것은 아니라고 알려져 있습니다. 따라서 현재 DGX나 디짓 (digit)에 탑재된 SOCAMM은 모두 마이크론 제품으로 보입니다. 만년 3위라고만 생각했는데, 최근 마이크론의 행보를 보면 오히려 업계를 리드하는 듯한 모습을 보이고 있어 우리 반도체 업계도 긴장시키고 있습니다.
사족이지만, 개인적으로 DGX는 몇 년 전 한 번 본적이 있기는 한데 이제는 가격이 엄청나게 치솟아 점점 더 보기 힘든 물건이 되어 가는 것 같습니다.
참고
댓글
댓글 쓰기