(Credit: AMD)
AMD는 어드밴싱 AI 이벤트를 통해 앞으로 2027년까지 서버 및 AI 제품군에 대해 발표했습니다. 인스팅트 MI350X/MI355X와 함께 공개된 흥미로운 이야기는 256코어 CPU인 베니스에 대한 소식입니다. 256코어 베니스는 Zen 6 아키텍처 기반으로 소켓 당 1.6TB/s의 매우 큰 대역폭을 제공합니다. 현재의 614GB/s보다 상당히 큰 데 어떤 구성으로 가능한지 궁금합니다. 참고로 MR-DIMM과 MCR-DIMM 같은 차세대 메모리 규격도 지원한다고 하니 여기에 어쩌면 힌트가 숨어 있을지도 모릅니다.
MR-DIMM: https://blog.naver.com/jjy0501/223520760522
256 코어 베니스는 이전보다 33% 늘어난 코어와 Zen 6 아키텍처의 힘으로 70% 정도 성능이 높아질 것이라고 합니다. 아마도 512스레드 제품일 것으로 보이는데, Zen 6c의 존재도 예상할 수 있기 때문에 384코어 프로세서의 등장도 예상할 수 있습니다. 베니스는 내년에 MI400X와 함께 등장할 예정입니다.
그런데 이번 발표에서 주목할 만한 부분 중 하나는 CPU나 GPU만이 아니라 NIC (network interface card)에 있습니다. 펜산도 폴라라 (Pensando Pollara) 400GbE NIC는 각 GPU, CPU를 유기적으로 연결해 하나의 거대한 AI 슈퍼 클러스터를 만들 수 있습니다. AMD에 의하면 이 울트라 이더넷 하드웨어는 경쟁사보다 10-20% 정도 더 뛰어난 성능을 제공할 수 있습니다.
펜산도 폴라라 400 AI NIC는 튜린 에픽 CPU와 MI350X 시리즈 GPU에 통합됩니다. 최초의 AMD AI 하이퍼스케일 서버를 도입하기로 한 오라클 클라우드는 총 131,072개의 인스팅트 MI355X GPU를 이용한 제타스케일 AI 데이터 선터를 구축할 예정입니다. 베니스 CPU와 MI400X, 그리고 2세대 NIC인 불카노 (Vulcano, 역시 이탈리아 도시 이름)는 내년 등장 예정입니다.
구슬이 서말이라도 꿰어야 보배라는 우리 속담처럼 GPU가 아무리 많아도 서로 연결되지 않으면 고성능 AI 클러스터 구축은 어렵습니다. 이 분야에서는 오래전부터 서버 GPU에 도전해온 엔비디아가 확실히 앞서 있기 때문에 AMD의 도전이 주목됩니다. AMD가 CPU에서처럼 GPU 시장에서도 파란을 일으킬 수 있을지 궁금합니다.
참고






댓글
댓글 쓰기