(출처 : 엔비디아)
엔비디아가 GTC 2025 행사를 통해 블랙웰 B300과 GB300, 그리고 이를 사용한 서버 시스템을 공개했습니다. B300은 B200과 비교해서 1.5배 더 빠른데, FP4 Tensor Dense/Sparse 기준으로 15/30TFLOPS의 성능을 지니고 있다고 합니다.
상식적으로 생각해봐도 메모리 용량을 288GB로 늘리는 것만으로는 이런 성능을 달성할 수 없기 때문에 사실 더 큰 칩을 사용했다는 추측이 가능합니다. 이미 B200도 1300W되는 전력을 소모하고 있어 여기서 클럭을 더 높인다는 것은 현실적으로 가능하지 않고 칩을 키우는 것만이 유일한 대안이기 때문입니다. 다만 엔비디아는 블랙웰 B300에 대한 구체적인 스펙은 언급하지 않은 채 다른 칩이고 1.5배의 성능을 낸다고만 언급했습니다.
(블랙웰 GPU 성능 비교. 출처: 엔비디아)
B300은 단독으로만 팔리는 것이 아니라 CPU와 함께 있는 GB 300 혹은 B300 단독으로 서버 클러스터를 구성해 팔리게 됩니다. 대부분 기업인 소비자들은 B300 NVL16과 GB300 DGX 스테이션, 그리고 GB300 NV72L 풀 서버랙의 구성으로 구매할 수 있습니다.
8개의 GB300 NV72L 서버랙 8개를 모은 시스템은 블랙웰 울트라 (Blackwell Ultra) DGX SuperPOD로 불리는 데, 288개의 그레이스 CPUs, 576개의 블랙웰 울트라 GPUs, 300TB 의 HBM3e 메모리를 탑재해 총 성능이 11.5 ExaFLOPS (FP4 기준)에 달합니다. 엔비디아는 이 슈퍼 컴퓨터를 AI 공장이라고 불렀는데, 진짜 공장 만큼 전기를 먹을 것으로 보입니다.
블랙웰 B300 시리즈는 올해 하반기, 늦어도 말까지는 발매될 예정입니다. 다만 전력 소모가 늘어나는 만큼 발열 관리가 잘 될 수 있을지 궁금합니다.
참고
댓글
댓글 쓰기