H200 서버 GPU와 주피터 슈퍼컴퓨터에 대한 정보를 공개한 엔비디아

(출처: 엔비디아)

엔비디아가 HBM3e 메모리를 탑재한 그레이스 호퍼 GH200 슈퍼칩의 GPU 버전인 H200과 이를 이용한 주피터 슈퍼컴퓨터에 대한 정보를 공개했습니다.

GH200: https://blog.naver.com/jjy0501/223178886149

H200은 메모리 인터페이스를 6144비트로 확장하고 메모리 용량도 141GB로 늘리면서 대역폭도 4.8TB/s로 높인 제품입니다. GPU는 동일한 GH100을 사용하므로 연산 능력은 H100과 큰 차이가 없겠지만, 더 빠르고 용량이 많은 HBM3E 메모리를 사용하는 만큼 대용량 데이터 분석과 처리에 병목 현상을 줄이고 실제 성능을 높일 수 있습니다.

물론 HBM3E 메모리가 아직 공급되지 않았기 때문에 실제 제품 출시는 GH200과 함께 내년이 될 예정입니다. 8개의 H100 SXM5 패키지를 모은 HGX H100 플랫폼은 물론 H200과도 완전히 호환되며 내년에 HGX H200으로 출시 될 예정입니다.

엔비디아는 여기에 4개의 GH200을 한 개의 보드에 올린 쿼드 GH200도 같이 공개했습니다. 4개의 CPU와 GPU가 4way NVLink로 연결되어 있으며 288개의 ARM CPU 코어와 총 2.3TB의 대용량 메모리를 지니고 있습니다. 각각의 CPU가 480GB LPDDR5X 메모리를 사용하고 GPU는 96GB HBM3 메모리를 사용하기 때문입니다.

마지막으로 공개한 것은 유럽의 엑사 스케일 컴퓨터인 주피터 (Jupiter)입니다. 쿼드 GH200 보드를 기반으로 만든 슈퍼컴퓨터로 23,762개의 그레이스 GPU와 같은 숫자의 H100 GPU를 사용하고 있습니다. 따라서 메모리 용량도 엄청나서 총 10.9PB의 LPDDR5X 메모리와 2.2PB의 HBM3 메모리가 사용됩니다.

주피터의 연산 능력은 AI 연산 기준 93 EFLOPS에 달하고 일반적인 HPC 연산 기준으로는 1 EFLOPS에 달한다는 것이 엔비디아의 설명입니다. 다만 GPU와 AI 연산에 특화된 만큼 슈퍼컴퓨터의 연산 능력을 비교하는 LINPACK 순위는 생각보다 높지 않을지도 모릅니다.

자세한 성능은 역시 2024년에 실물이 등장해야 알 수 있는데, 독일 율리히 연구소 (Forschungszentrum Jülich)에 내년에 설치된다는 것만 공개되고 정확한 가동 일자는 밝히지 않았습니다. 엔비디아 GPU는 이미 슈퍼 컴퓨터에 많이 사용되었지만, CPU + GPU 조합은 처음인데, 100% 엔비디아표 슈퍼컴퓨터의 실제 성능이 궁금합니다.

참고

https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) ) 앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는 미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기 이전 포스트: https://blog.naver.com/jjy0501/221115245986 (동영상) V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다. 참고 https://newatlas.com/bell-v-280-valor-maiden-flight/52663/

자세한 내용 보기

100 테슬라급 자기장 도달

미국의 로스 알라모스 국립 연구소 (Los Alamos National Laboratory) 에서 과학자들이 지금까지 인간이 개발한 가장 강력한 자기장을 발생시키는 장치 개발에 도전하고 있습니다. 자기장의 세기를 나타내는 방법으로 자기력선의 밀도를 나타내기 위해 단위 면적당 자기력선의 수를 표시하는 단위인 테슬라 (T) 가 있습니다. (1T = 1Wb/㎡ 웨버 (Wb) 는 자속의 단위) 의료용으로 사용되는 초전도체를 이용한 MRI 의 경우 1.5 - 3 테슬라급의 강력한 자기장으로 인체 내부를 볼 수 있게 만들지만 과학 연구용으로 이보다 더 강력한 자기장이 필요할 수 있습니다. 최근에 등장한 90 테슬라급 자기장에 이어 이번에 로스 알라모스 국립 연구소에서는 100 테슬라급인 100.75 T 를 실현 했다고 합니다. 이를 구현한 것은 18000 파운드 (8.16 톤 정도) 의 코일과 여기에 에너지를 공급할 1200 메가줄 (Megajoule) 급 모터 제네레이터등의 설비입니다. ( The 1,200-megajoule motor generator that powers the magnetic pulse. ) 이와 같은 연구를 통해 알아내고자 하는 것은 Quantum Phase transitions and new ultra high field magnetic states Electronic Structure determination Topologically protected states of matter 로 요약할 수 있다고 합니다. 아무튼 수 T 급 MRI 만 해도 자기장의 힘이 엄청난데 100 T 라니 엄청난 자기장이네요. 이는 지구 자기장 세기보다 200만배 강력한 (물론 좁은 범위에서 작용하는 자기장이라 지구 전체...

자세한 내용 보기

고대 양서류 이야기 (2) - 악어를 닮은 거대 양서류들

페름기에는 다양한 양막류가 진화해서 앞서 소개한 육상형 템노스폰딜리는 점차 설 자리를 잃게 됩니다. 하지만 양서류는 본래 자신의 서식지인 물과 습지에서 여전히 번성을 누렸습니다. 당시에는 악어류 같은 대형 양서형 파충류도 없던 시절이었기 때문에 이와 비슷한 생태학적 지위는 여전히 양서류의 몫이었습니다. 이들에 대한 이야기는 제 책인 포식자에서 비교적 간단히 다뤘는데, 오늘은 여기에 대한 보충 설명입니다. 책 정보: http://book.naver.com/bookdb/book_detail.nhn?bid=13347200 Yes 24: http://www.yes24.com/24/goods/58772859 11번가: http://books.11st.co.kr/product/SellerProductDetail.tmall?method=getSellerProductDetail&prdNo=1977867160 알라딘: http://www.aladin.co.kr/shop/wproduct.aspx?ItemId=134877825 교보문고: http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788970447988&orderClick=LAG&Kc= 인터파크 : http://book.interpark.com/product/BookDisplay.do?_method=detail&sc.prdNo=279593764&sc.saNo=003002003&bid1=search_auto&bid2=detail&bid3=prd_img&bid4=001 영풍문고: http://www.ypbooks.co.kr/book.yp?bookcd=100843205&gubun=NV ...

자세한 내용 보기

고든의 블로그 구글 분점

이 블로그 검색