엔비디아 블랙웰을 이용한 대규모 데이터 센터를 건설하는 오라클

(출처: 엔비디아)

오라클이 Oracle Cloud Infrastructure (OCI)에 엔비디아 GPU를 대거 투입해 최근 공개한 테슬라의 AI 데이터 센터와 경쟁할 수 있는 대규모 AI 인프라 구축에 나선다는 소식입니다. 여기까지는 놀라운 일이 아니지만, 오라클은 소형 모듈형 원자로 (SMR)를 3기를 건설해 기가와트급 전력을 소모하는 AI 데이터 센터에 안정적으로 전력을 공급한다는 놀라운 계획도 발표했습니다.

오라클은 우선 16,384개의 H100 GPU를 사용한 AI 슈퍼 클러스터를 구축하는데, 65 FP8/INT8 exaFLOPS의 연산 능력과 13 Pb/s의 네트워크 대역폭을 지니고 있습니다. 65,536개의 H200 GPU를 사용한 슈퍼 클러스터는 260 FP8/INT8 exaFLOPS의 연산 능력과 52 Pb/s의 대역폭을 지니고 있습니다.

이것도 엄청난 수치이지만, 블랙웰을 대량으로 사용해 구축할 세 번째 슈퍼 클러스터는 놀라운 규모로 131,072개의 B200 블랙웰 GPU를 사용해 2.4 FP8/INT8 zettaFLOPS의 연산 능력을 확보합니다. 제트플롭스급 AI 데이터 센터가 되는 것입니다.

13만 개의 GPU 나오는 엄청난 발열과 네트워크 대역폭을 해소하기 위해 오라클은 엔비디아가 개발한 수냉 냉각 시스템 노드인 GB 200 NVL 72을 사용합니다. GB 200 NVL 72는 72개의 블랙웰 GPU를 수냉으로 냉각하며 막대한 데이터 대역폭을 소화하기 위해 별도의 프로세서인 NVLINK SWITCH를 사용합니다. 각 두 개의 NVLINK 스위치 프로세서가 하나의 트레이에서 14.4TB/s의 대역폭을 지원하며 총 9개의 트레이를 통해 130TB/s의 대역폭을 GB 200 NVL 72 하나 당 지원할 수 있습니다.

이전 포스트: https://blog.naver.com/jjy0501/223388364475

다만 이렇게 GPU를 늘리면 소모하는 전력량은 기가와트급으로 커질 수밖에 없습니다. 이 전력량을 감당하기 위해 SMR 건설을 추진하는 것인데, 데이터 센터와 달리 원전을 건설하는 데는 상당한 시간과 함께 주변의 반대가 상당할 가능성이 높습니다.

24시간 365일 안정적 전력 공급을 위해 원전을 건설하는 건 이해가되지만, 과연 이런 시도가 성공할 수 있을진 의문입니다.

참고

https://www.tomshardware.com/tech-industry/oracle-will-use-three-small-nuclear-reactors-to-power-new-1-gigawatt-ai-data-center

https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-and-oracle-team-up-for-zettascale-cluster-available-with-up-to-131072-blackwell-gpus

이 블로그의 인기 게시물

100 테슬라급 자기장 도달

미국의 로스 알라모스 국립 연구소 (Los Alamos National Laboratory) 에서 과학자들이 지금까지 인간이 개발한 가장 강력한 자기장을 발생시키는 장치 개발에 도전하고 있습니다. 자기장의 세기를 나타내는 방법으로 자기력선의 밀도를 나타내기 위해 단위 면적당 자기력선의 수를 표시하는 단위인 테슬라 (T) 가 있습니다. (1T = 1Wb/㎡ 웨버 (Wb) 는 자속의 단위) 의료용으로 사용되는 초전도체를 이용한 MRI 의 경우 1.5 - 3 테슬라급의 강력한 자기장으로 인체 내부를 볼 수 있게 만들지만 과학 연구용으로 이보다 더 강력한 자기장이 필요할 수 있습니다. 최근에 등장한 90 테슬라급 자기장에 이어 이번에 로스 알라모스 국립 연구소에서는 100 테슬라급인 100.75 T 를 실현 했다고 합니다. 이를 구현한 것은 18000 파운드 (8.16 톤 정도) 의 코일과 여기에 에너지를 공급할 1200 메가줄 (Megajoule) 급 모터 제네레이터등의 설비입니다. ( The 1,200-megajoule motor generator that powers the magnetic pulse. ) 이와 같은 연구를 통해 알아내고자 하는 것은 Quantum Phase transitions and new ultra high field magnetic states Electronic Structure determination Topologically protected states of matter 로 요약할 수 있다고 합니다. 아무튼 수 T 급 MRI 만 해도 자기장의 힘이 엄청난데 100 T 라니 엄청난 자기장이네요. 이는 지구 자기장 세기보다 200만배 강력한 (물론 좁은 범위에서 작용하는 자기장이라 지구 전체...

자세한 내용 보기

고대 양서류 이야기 (2) - 악어를 닮은 거대 양서류들

페름기에는 다양한 양막류가 진화해서 앞서 소개한 육상형 템노스폰딜리는 점차 설 자리를 잃게 됩니다. 하지만 양서류는 본래 자신의 서식지인 물과 습지에서 여전히 번성을 누렸습니다. 당시에는 악어류 같은 대형 양서형 파충류도 없던 시절이었기 때문에 이와 비슷한 생태학적 지위는 여전히 양서류의 몫이었습니다. 이들에 대한 이야기는 제 책인 포식자에서 비교적 간단히 다뤘는데, 오늘은 여기에 대한 보충 설명입니다. 책 정보: http://book.naver.com/bookdb/book_detail.nhn?bid=13347200 Yes 24: http://www.yes24.com/24/goods/58772859 11번가: http://books.11st.co.kr/product/SellerProductDetail.tmall?method=getSellerProductDetail&prdNo=1977867160 알라딘: http://www.aladin.co.kr/shop/wproduct.aspx?ItemId=134877825 교보문고: http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788970447988&orderClick=LAG&Kc= 인터파크 : http://book.interpark.com/product/BookDisplay.do?_method=detail&sc.prdNo=279593764&sc.saNo=003002003&bid1=search_auto&bid2=detail&bid3=prd_img&bid4=001 영풍문고: http://www.ypbooks.co.kr/book.yp?bookcd=100843205&gubun=NV ...

자세한 내용 보기

이빨이 다시 진화한 개구리

( CT scans of Gastrotheca guentheri skulls revealed what appeared to be identical rows of teeth on both the upper and lower jaws, which researchers later confirmed through dissection. Credit: Florida Museum/Daniel Paluh ) 개구리는 2억년 전 진화 과정에서 이빨을 잃어버리고 큰 턱과 혀를 이용해 곤충 같은 작은 먹이를 잡아 먹는 방향으로 진화했습니다. 파충류나 포유류 같은 다른 사지류와의 경쟁에서 밀려 양서류가 쇠퇴하고 멸종하던 시기에도 개구리는 여전히 생존할 수 있었던 비결입니다. 이빨이 없는 덕분에 큰 혀를 발사하기 편해졌을지는 모르지만, 이빨이 없으면 종종 불편할 때가 있습니다. 씹는 대신 삼키기 때문에 음식을 씹을 수 없다는 점은 문제되지 않지만, 필사적으로 달아나려는 먹이를 잡기 힘들기 때문입니다. 이런 이유 때문에 일부 개구리는 이빨 같이 보이는 엄니 (fang)을 지니고 있으나 이는 사라진 이빨이 다시 난 것이 아니라 다른 부분이 진화한 것입니다. 이는 돌로의 법칙 ( Dollo's Law )으로 알려져 있습니다. 진화 과정에서 퇴화한 부분이 다시 생겨나지 않으며 대신 필요하면 다른 부분이 진화해 그 역할을 대신한다는 것입니다. 예를 들어 아가미가 사라진 사지 동물은 다시 물에 들어온다고 해도 아가미가 다시 생기진 않습니다. 대신 고래처럼 폐가 커져서 그 기능을 대신하게 됩니다. 하지만 모든 법칙엔 예외가 있기 마련입니다. 남미에서 발견된 멸종 위기 개구리 중 하나인 구엔터 유대류 개구리 ( Gastrotheca guentheri, Guenther's marsupial frog, dentate marsupial frog)는 완전한 형태의 이빨을 지니고 있습니다. 참고로 유대류 개구리라는 명칭은...

자세한 내용 보기

고든의 블로그 구글 분점

이 블로그 검색