.png)
(아틀라스 950 슈퍼포드. 출처: 화웨이)
작년에 쇼크 수준의 파장을 몰고 온 중국 딥시크의 CEO인 량원펑 (Liang Wenfeng)은 최근 컨퍼런스 콜에서 중국의 컴퓨팅 자원이 부족하지만, 화웨이의 Atlas 950 SuperPoD가 엔비디아의 GB300 NVL 랙을 완벽하게 대체할 수 있다고 발표했습니다. 흥미로운 사실은 GB300 GPU 하나 당 어센드 (Ascend) GPU 네 개가 필요하다고 발표했습니다.
참고로 어센드 950은 화웨이 자체 아키텍처인 다빈치 v3(Da Vinci 3.0)를 기반으로 설계되었으며, 라인업에 따라 950PR과 950DT 모델 등으로 구분됩니다. 화웨이는 단일 칩 성능 격차를 극복하기 위해 "개별 칩 대신 초거대 클러스터링(SuperPoD)" 방식을 채택했습니다. Atlas 950 SuperPoD는 수천 개의 어센드 950 칩을 하나처럼 묶은 시스템입니다.
이를 통해 기본 노드당 64개 칩, 최대 8,192개 NPU 통합 연결을 통해 클러스터 연산 성능을 FP8 연산 기준 최대 8 EFLOPS (8,000 PFLOPS), FP4 연산 기준 최대 16 EFLOPS (16,000 PFLOPS)까지 끌어 올렸습니다.
슈퍼포드 구성 시 최대 메모리는 1,152 TB에 달하는데, 미국의 HBM 수출 규제에 맞서 화웨이가 국산화한 독자 규격 메모리(HiBL 및 HiZQ)를 적용하여 최대 4TB/s 대역폭을 확보했습니다. 참고로 생산은 CXMT가 담당합니다. 기존 FP16 등 고정밀 연산 성능은 엔비디아보다 낮으나, 최신 LLM 추론 및 양자화 훈련에 핵심인 FP8/FP4 저정밀도 연산 처리 성능을 극대화해 이 약점을 최대한 극복한 것이 특징입니다.
물론 그럼에도 GB300 같은 최신 GPU를 따라잡을 순 없지만, 미국의 수출 규제 덕분에 화웨이가 빠르게 입지를 구축하고 있는 상황입니다. 최근 투자자 컨퍼런스 콜에서 량원펑은 여러 가지 중요한 정보를 공개했는데, 그중 하나는 AI 연구소의 가용 컴퓨팅 자원이 현재 가장 큰 모델들이 한 번에 활성화하는 약 8천억 개의 매개변수에 비해 훨씬 적은 약 100억 개의 매개변수만 활성화할 수 있는 모델만 지원한다는 점입니다.
이는 연산 자원 부족에 따른 것으로 AI 역사상 가장 큰 규모의 모델을 훈련시키려면 GB300 5만 대나 화웨이 950 20만 대 정도가 필요하지만, 실제 확보한 자원은 여기에 크게 미치지 못한 상태입니다. 딥시크는 현재 2만 개의 NVIDIA H100 GPU에 해당하는 컴퓨팅 자원을 보유하고 있으며 , 이 중 대부분은 "지난 한두 달 사이에" 도입되었지만, 현재 "매우 공격적으로" 컴퓨팅 기반을 확장하고 있다고 밝혔습니다.
딥시크는 중국내 컴퓨팅 시장에 대해 상당히 낙관적으로 오히려 엔비디아가 스스로 무덤을 파고 있다고 생각합니다. 다만 화웨이의 슈퍼노드, 즉 화웨이 950 슈퍼노드는 성능과 가격 면에서 NVIDIA의 GB200과 GB300을 완벽하게 대체할 수 있다고 하면서도 가격이 확실히 더 높다는 점은 인정했습니다.
그 다음은 좀 이상한 이야기인데 "50% 더 높든 100% 더 높든 큰 차이가 나지 않습니다. 심지어 200% 더 높더라도 큰 문제가 되지 않습니다." 언급한 대목입니다. 실제 AI 서비스를 상용화하고 수익을 내야 하는 시점에서 50-100% 높은 원가는 아주 큰 차이를 만들 수 있습니다.
아무튼 화웨이도 몇 년 뒤쳐진 것은 사실이지만, AI GPU를 열심히 양산하고 있고 중국 LLM 모델들은 미국 모델을 턱 밑까지 추격하고 있는 상태라 5-10년 후에는 우리가 예측하지 못한 일이 생길 수 있다는 점은 경계해야 할 것입니다.
참고
댓글
댓글 쓰기