(출처; 엔비디아)
엔비디아가 A100 가속기를 내놓은지 6개월이 채 안 되어 메모리를 두 배 늘린 80GB 버전을 공개했습니다. HBM2E 메모리 80GB는 GPU 역사상 전대 미문의 대용량으로 인공지능 연산 등 고성능 컴퓨팅이 필요한 연산을 대부분 GPU에서 처리할 수 있게 도와줄 것입니다. 메모리 역시 2,4Gbps HBM2e 에서 3.2Gbps HBM2e로 업그레이드 해 대역폭이 25% 증가한 2TB/s로 늘어났습니다. 나머지 스펙은 기존의 A100과 동일하지만, 더 많은 데이터를 한 번에 처리할 수 있게 되어 대규모 데이터 처리 성능이 더 강해졌습니다.
A100 : https://blog.naver.com/jjy0501/221963445659
한 가지 흥미로운 사실은 메모리 구성입니다. HBM2E 메모리 6개가 GPU에 붙어 있는 구조에도 불구하고 사실 하나는 더미이고 실제로는 5개가 작동합니다. 그래서 16GB x 5 = 80 GB 구성인 것입니다. 대역폭 역시 3.2Gbps x 5 = 16Gbps = 2TB/s 입니다. 정확한 이유는 알 수 없지만, 메모리 컨트롤러에 문제가 있는 다이도 버리지 않기 위한 고육지책일지도 모르겠다는 생각입니다.
아무튼 간에 그렇지 않아도 비싼 A100에 HBM2E 메모리를 80GB나 달아 가격은 일반인이 범접할 수 없는 수준일 것으로 보입니다. PCIe 버전으로 나오는지는 모르겠지만, 엔비디아는 일단 8개의 A100을 탑재한 DGX A100 640GB 버전과 4개의 A100을 탑재한 DGX A100 워크스테이션의 형태로 출시한다고 발표했습니다. 특수 목적의 서버와 워크스테이션으로 일반 사용자는 실물을 볼 기회도 없겠지만, 아무튼 대단한 하드웨어임에는 분명합니다.
참고
https://www.anandtech.com/show/16250/nvidia-announces-a100-80gb-ampere-gets-hbm2e-memory-upgrade
댓글
댓글 쓰기