(출처: AMD)
AMD는 앞서 Zen4 코어와 CDNA3 GPU를 합친 고성능 연산용 APU인 인스팅트 (Instinct) MI300 시리즈를 공개했습니다. MI300은 9개의 5nm 칩렛과 4개의 6nm 칩렛이 3D 패키징으로 묶여 있는 구조로 24개의 Zen 4 코어와 CDNA3 아키텍처 GPU가 함께 구성되어 있습니다. 그리고 여기에 128GB의 HBM3 메모리 (8x16)이 탑재되어 있으며 트랜지스터 숫자는 총 1460억개에 달합니다. AMD에 따르면 MI300의 전성비는 IM250X의 5배이고 전체 성능은 8배입니다.
이전 포스트: https://blog.naver.com/jjy0501/222978136608
여기에 추가해서 AMD는 GPU만 있는 버전인 인스팅트 IM300X를 발표했습니다. 그리고 기존의 APU 버전은 IM300A로 이름을 변경했습니다. IM300X는 8개의 GPU 칩렛을 지니고 있으며 I/O 칩렛까지 포함한 트랜지스터 집적도는 1530억 개에 달합니다. 아무래도 조밀한 GPU로 대체하면서 트랜지스터 집적도가 더 증가한 것으로 보입니다.
한 가지 흥미로운 사실은 24GB HBM3 메모리를 8개 탑재해 192GB의 메모리를 확보했다는 것입니다. 이는 경쟁 상대인 H100의 120GB보다 많은 것으로 바로 이점 때문에 대형 언어 모델 (LLM)과 같이 메모리를 많이 사용하는 AI 연산 처리에 우수하다는 것이 AMD의 주장입니다.
다만 현재 AI 시장이나 생태계 자체가 엔비디아 중심으로 되어 있어 호언 장담과 달리 얼마나 시장에서 점유율을 확보할 수 있을지는 미정입니다. 게임 시장도 지포스 위주이다 보니 게임 호환성과 최적화가 지포스에 맞춰 진행되는 것처럼 현재 나와 있는 AI 관련 라이브러리나 도구들도 엔비디아 GPU 위주입니다.
여기에다 실제 연산 능력을 공개하지 않은 점으로 봐서 라데온처럼 전성비나 절대 성능에서 열세일 가능성도 있어 보이는데, 실제 성능이 어떨지 궁금합니다. 인스팅트 IM300A는 지금, IM300X는 3분기에 출시될 예정이니 곧 결과를 알 수 있을 것입니다.
참고
https://www.anandtech.com/show/18915/amd-expands-mi300-family-with-mi300x-gpu-only-192gb-memory
댓글
댓글 쓰기