(출처: 엔비디아)
GTC 2022에서 엔비디아는 예상대로 2년 만에 새 아키텍처인 호퍼를 들고 나왔습니다. 예상하지 못했던 내용은 새로운 서버 칩을 들고 나왔다는 것입니다. 최대 144개의 Arm v9 네오버스 계열 코어를 탑재한 그레이스 (Grace) CPU는 엔비디아의 고성능 GPU와 협업하는데 초점을 둔 ARM CPU입니다. 본래는 ARM 인수 후 시너지 효과를 기대하고 만든 것이겠으나 사실 ARM을 굳이 인수하지 않더라도 얼마든지 개발할 수 있는 프로세서인 만큼 개인적으로는 400억 달러를 아낀 게 아닐까 생각합니다.
아무튼 그레이스 CPU는 몇 가지 면에서 과거 다른 CPU 제조사에서 만든 프로세서와 상당히 다른 차이점이 있습니다. PCIe Gen 5.0, DDR5, HBM3, CCIX 2.0, CXL 2.0 같은 최신 인터페이스를 지원한다는 점은 다른 서버 칩과 비슷하지만, 두 개의 72코어 프로세서가 엔비디아의 독자 고속 인터페이스인 NVLink Chip-to-Chip (C2C)로 연결되어 있다는 점은 다른 프로세서에서는 보기 힘든 구조입니다.
각각의 다이는 PCIe 5.0 인터페이스 보다 25배 에너지 효율이 높고 90배 정도 면적 밀도가 높은 NVLink C2C 인터페이스로 연결되어 하나의 프로세서처럼 작동합니다. 대역폭은 900GB/s 이상이라고 하는데, 엔비디아의 독자 규격임과 동시에 CXL 같은 업계 표준 인터페이스와 앞으로 표준이 될 다이 간 고속 인터페이스인 UCIe 규격을 지원합니다.
UCIe : https://blog.naver.com/jjy0501/222666853704
아무튼 PCIe 대신 엔비디아 독자 고속 인터페이스인 NVLink를 지원하기 때문에 기존의 CPU에서 볼 수 없는 독특한 구성도 가능합니다. 가장 놀라운 특징은 CPU 다이와 GPU 다이를 합쳐 그레이스 호퍼 CPU + GPU 구성도 가능하다는 것입니다. 이 경우 LPDDR5X ECC 512GB와 HBM3 80GB를 합쳐 600GB의 메모리를 사용할 수 있는 것으로 보입니다. 참고로 LPDDR5X ECC는 총 1TB/s의 메모리 대역폭을 지닌다고 하는데, 구체적인 구성은 좀 더 정보가 필요할 것으로 보입니다.
엔비디아는 그레이스 CPU 슈퍼칩이 DGX A100에 사용된 EPYC Rome 7742 CPU 두 개 (64코어)와 비교해 1.5배 정도 빠르다고 주장했습니다. SPECrate_2017_int_base 벤치 기준으로 740점 이상인데, 현재의 밀란 에픽 칩이 382 - 424점 정도인 점을 비교하면 비슷한 성능입니다. 하지만 GPU 친화적인 인터페이스와 디자인을 감안하면 엔비디아 제품군과 서버에서 나름의 이점이 있을 것으로 생각합니다.
그레이스 CPU 는 다양한 구성을 통해 최대 8개의 호퍼 GPU와 연결되거나 혹은 CPU + GPU 혼합 구성이 가능하며 크기도 매우 줄일 수 있습니다. 내년 상반기에 출시 시점이 되면 구체적인 제품들을 들고 나올 것으로 생각합니다.
CPU까지 자체 플랫폼을 구축하려는 것은 사실 엔비디아의 오랜 숙원사업이었습니다. 한 때 AMD와의 합병설이 나왔던 데는 (ATI 인수 전) 그럴 만한 이유가 있습니다. 그레이스 CPU는 나름의 결실을 보여준 것이지만, 시장에는 x86 뿐 아니라 Arm 계열 서버 프로세서까지 치열한 경쟁을 벌이고 있는 것이 현실입니다. 이 경쟁에서 엔비디아가 CPU 시장에서 GPU 시장 같은 입지를 구축할 수 있을지 결과가 주목됩니다.
참고
댓글
댓글 쓰기