기본 콘텐츠로 건너뛰기

엔비디아 호퍼 GPU 공개








 (출처: 엔비디아) 



 엔비디아가 GTC 행사를 통해 차기 플래그쉽 GPU인 H100 AI 가속기와 호퍼 (Hopper) 아키텍처를 공개했습니다. 2020년 공개한 암페어는 역사상 가장 성공한 서버 GPU로 작년에만 100억 달러의 매출을 올렸다고 합니다. 데이터 센터가 폭발적으로 증가하면서 이 데이터를 처리하는 일이 새로운 과제로 떠올랐고 고성능 AI GPU가 해결책으로 등장한 것이 중요한 배경입니다. 



 호퍼는 TSMC의 4N 공정을 이용해 암페어보다 더 강력한 성능을 확보했습니다. H100 칩은 FP32 CUDA 코어를 무려 16896개나 장착하고 텐서 코어 숫자도 528개로 늘렸으며 최대 클럭도 1.78GHz까지 높아졌습니다. 그러나 그런 만큼 전력 소모도 크게 늘어 TDP가 무려 700W에 달합니다. 아마도 단일 칩으로는 역대 최대 수준으로 보입니다. 전작인 A100의 400W도 놀라웠는데 700W는 상상을 초월하는 수준입니다. 



 당연히 일반 그래픽 카드로는 출시되지 않을 예정이며 SXM5 인터페이스와 HGX 베이스보드라는 별도 규격을 통해 냉각과 전력 공급을 해결합니다. 같이 공개된 사진을 보면 전작처럼 4GPU, 8GPU, 16GPU 서버 버전이 있는 것으로 보이며 대규모 서버랙에 연결해 슈퍼 컴퓨터를 구성할 수 있게 되어 있습니다. 엔비디아는 이를 이용한 슈퍼 컴퓨터 역시 계획 중입니다. 




(GTC 2022 Keynote with NVIDIA CEO Jensen Huang)






 

(엔비디아 AI 가속 GPU 스펙 비교. 출처: 아난드텍)



 H100에서 한 가지 더 눈길을 끄는 부분은 HBM3 메모리 적용입니다. 덕분에 이전과 같은 5120bit 메모리 인터페이스를 사용해도 3TB/s의 대역폭을 확보할 수 있게 됐습니다. 연산 능력은 FP16 벡터 기준 1000FLOPS, FP32 벡터 기준 60TFLOPS, FP64 벡터 기준 30TFLOPS로 이전의 세 배 수준입니다. 인공지능 연산에 중요한 INT8 텐서 연산은 2000TOPS로 역시 이전의 세 배 수준입니다. 



 트랜지스터 숫자는 800억개로 역시 역대 최대치인데, 모노리스 다이로 한 번에 생산할 수 있는 최대 크기인 800㎟급 (814㎟)로 담을 수 있는 최대 숫자일 것입니다. 다만 A100의 542억개의 3배가 아닌데도 속도가 3배가 나오는 이유는 아키텍처 개선과 더불어 클럭을 높인 게 이유가 아닐까 생각합니다. 



 다른 건 다 좋은데 TDP가 엄청나게 늘어난 부분은 꽤 신경이 쓰임니다. 일반 소비자용 버전의 후퍼 GPU도 더 전기 먹는 하마가 되지 않을까 하는 생각이 들기 때문입니다. 호퍼 아키텍처 자체가 성능을 높이면서 전기도 꽤 잘 먹게 설계된 것 같은데, 1000W 파워를 오래 전 사두길 잘했다는 생각이 드는 대목입니다. 과연 이번에는 얼마나 전기를 먹을지 궁금합니다. 



 참고 



https://www.anandtech.com/show/17327/nvidia-hopper-gpu-architecture-and-h100-accelerator-announced


https://www.tomshardware.com/news/nvidia-hopper-h100-gpu-revealed-gtc-2022

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) )  앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는  미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기   이전 포스트:  https://blog.naver.com/jjy0501/221115245986  (동영상)   V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다.   참고  https://newatlas.com/bell-v-280-valor-maiden-flight/52663/
댓글 쓰기
자세한 내용 보기

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...
댓글 쓰기
자세한 내용 보기

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...
댓글 쓰기
자세한 내용 보기