아마존의 새 AI 칩 - 트레이니움3 (Trainium3) 공개

(출처: 아마존)

아마존이 AWS 리인벤트 2025 행사에서 차세대 AI 칩인 트레이니움3 (Trainium3)를 공개했습니다. AWS에 따르면 트레이니움3 울트라서버 (Trainium3 UltraServers)는 144개의 트레이니움3 칩을 하나의 클러스터에서 사용할 수 있으며 전세대 트레이니움2 기반 Trn2 인스턴스와 비교해서 4.4배의 연산 성능, 4배의 에너지 효율, 4배의 대역폭을 지녔다고 합니다. 다만 칩 하나로 보면 2배의 연산 능력과 40% 정도 높은 에너지 효율을 지닌 것으로 보입니다. 이는 아키텍처 개선과 3nm 공정 도입 덕분으로 풀이됩니다.

구체적인 다이 사이즈나 트랜지스터 집적도는 이야기하지 않았지만, 트레이니움3 칩 하나는 PF8 기준 2.52 PFLOPs의 연산 능력을 지니고 있으며 144GB의 HBM3e 메모리와 4.9TB/s의 대역폭을 지니고 있습니다. 따라서 144개의 칩이 모인 Trn3 UltraServers는 총 362 FP8 PFLOPs의 연산 능력을 지녔다는 이야기가 됩니다. 따라서 100만 토큰 이상의 처리 능력을 지니고 있습니다.

(트레이니움3 칩 소개)

(아마존 언박싱 영상)

여담이지만, AWS AI 부서에는 생각보다 인도계 비중이 높은 것으로 보입니다. IT 업계에서 인도계의 위상을 새삼 느끼게 하는 대목이네요. 아무튼 트레이니움3는 여러 개의 칩과 노드를 하나로 묶기 위해 NeuronSwitch-v1 이라는 기술을 사용하는데, 엔비디아의 NVLink와 유사한 기술이라고 합니다.

더 흥미로운 부분은 트레이니움4에서는 아예 NVLink를 지원해 트레이니움4와 엔비디아 GPU를 같이 활용할 수 있게 한다는 점입니다. 놀라운 접근임과 동시에 엔비디아의 협력을 이끌어 냈다는 점이 놀랍습니다.

트레이니움 4는 전 세대와 비교해 FP4 성능 6배, FP8 성능 3배, 메모리 대역폭 4배 향상을 목표로 개발되고 있습니다. 칩 자체의 성능 자체는 블랙웰과 비교해서 더 우수하다곤 할 수 없지만, 가격이 저렴하다면 갈수록 늘어나는 비용을 절감하는데 도움이 될 수 있습니다.

AWS에 의하면 앤트로픽을 비롯한 고객사들이 트레이니움을 사용해 훈련 및 추론 비용을 크게 절감했다고 합니다. AI GPU의 가격과 전력 소비가 치솟으면서 비용이 크게 올라가는 점을 생각하면 꽤 의미 있는 내용이 될 수 있습니다.

빅테크들의 자체 AI 칩 개발이 뜨거운 가운데 엔비디아가 계속 지금의 지위를 유지할 수 있을지 궁금합니다.

참고

https://wccftech.com/amazon-is-all-in-in-the-race-for-a-competitive-asic-portfolio/

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) ) 앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는 미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기 이전 포스트: https://blog.naver.com/jjy0501/221115245986 (동영상) V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다. 참고 https://newatlas.com/bell-v-280-valor-maiden-flight/52663/

자세한 내용 보기

100 테슬라급 자기장 도달

미국의 로스 알라모스 국립 연구소 (Los Alamos National Laboratory) 에서 과학자들이 지금까지 인간이 개발한 가장 강력한 자기장을 발생시키는 장치 개발에 도전하고 있습니다. 자기장의 세기를 나타내는 방법으로 자기력선의 밀도를 나타내기 위해 단위 면적당 자기력선의 수를 표시하는 단위인 테슬라 (T) 가 있습니다. (1T = 1Wb/㎡ 웨버 (Wb) 는 자속의 단위) 의료용으로 사용되는 초전도체를 이용한 MRI 의 경우 1.5 - 3 테슬라급의 강력한 자기장으로 인체 내부를 볼 수 있게 만들지만 과학 연구용으로 이보다 더 강력한 자기장이 필요할 수 있습니다. 최근에 등장한 90 테슬라급 자기장에 이어 이번에 로스 알라모스 국립 연구소에서는 100 테슬라급인 100.75 T 를 실현 했다고 합니다. 이를 구현한 것은 18000 파운드 (8.16 톤 정도) 의 코일과 여기에 에너지를 공급할 1200 메가줄 (Megajoule) 급 모터 제네레이터등의 설비입니다. ( The 1,200-megajoule motor generator that powers the magnetic pulse. ) 이와 같은 연구를 통해 알아내고자 하는 것은 Quantum Phase transitions and new ultra high field magnetic states Electronic Structure determination Topologically protected states of matter 로 요약할 수 있다고 합니다. 아무튼 수 T 급 MRI 만 해도 자기장의 힘이 엄청난데 100 T 라니 엄청난 자기장이네요. 이는 지구 자기장 세기보다 200만배 강력한 (물론 좁은 범위에서 작용하는 자기장이라 지구 전체...

자세한 내용 보기

고대 양서류 이야기 (2) - 악어를 닮은 거대 양서류들

페름기에는 다양한 양막류가 진화해서 앞서 소개한 육상형 템노스폰딜리는 점차 설 자리를 잃게 됩니다. 하지만 양서류는 본래 자신의 서식지인 물과 습지에서 여전히 번성을 누렸습니다. 당시에는 악어류 같은 대형 양서형 파충류도 없던 시절이었기 때문에 이와 비슷한 생태학적 지위는 여전히 양서류의 몫이었습니다. 이들에 대한 이야기는 제 책인 포식자에서 비교적 간단히 다뤘는데, 오늘은 여기에 대한 보충 설명입니다. 책 정보: http://book.naver.com/bookdb/book_detail.nhn?bid=13347200 Yes 24: http://www.yes24.com/24/goods/58772859 11번가: http://books.11st.co.kr/product/SellerProductDetail.tmall?method=getSellerProductDetail&prdNo=1977867160 알라딘: http://www.aladin.co.kr/shop/wproduct.aspx?ItemId=134877825 교보문고: http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788970447988&orderClick=LAG&Kc= 인터파크 : http://book.interpark.com/product/BookDisplay.do?_method=detail&sc.prdNo=279593764&sc.saNo=003002003&bid1=search_auto&bid2=detail&bid3=prd_img&bid4=001 영풍문고: http://www.ypbooks.co.kr/book.yp?bookcd=100843205&gubun=NV ...

자세한 내용 보기

고든의 블로그 구글 분점

이 블로그 검색