.jpg)
(출처: 알리바바)
알리바바는 최근 중국 항저우에서 열린 압사라 컨퍼런스 (Apsara Conference)에서 야심찬 AI 컴퓨팅 구축 계획을 발표했습니다. 여기서 알리바바는 곧 출시될 젠우 V900 (Zhenwu V900) 칩에 대한 세부 정보를 공개하는 한편, 차세대 Qwen 4.5 및 Qwen 5.0 AI 모델가 4조에서 10조 개의 파라미터를 사용할 것이라고 예고했습니다.
일반적으로 중국 AI 업계는 상대적으로 작은 크기의 모델에 더 강한 모습을 보여왔습니다. 컴퓨팅 연산 자원이 제한적이다 보니 생긴 어쩔 수 없는 한계로 Qwen 역시 3.8 27B 같은 소형 모델에서 엄청난 성능을 자랑하고 있습니다. 하지만 Kimi K3도 2.8조 개의 파라미터를 지니고 있고 Qwen 3.8 max 역시 2.4조 개의 파라미터를 지니고 있어 최상위 모델은 서방측 모델보다 크게 작지 않은 것으로 알려진 상태입니다. 기본적으로 기술이 동일하면 파라미터가 클수록 성능이 높아지는 게 맞기 때문입니다.
그런 만큼 알리바바는 더 큰 파리미터를 지닌 모델을 돌리기 위해 자체 하드웨어에 투자하고 있습니다. 남의 도움을 받지 않고 내가 스스로 연산 자원을 마련하겠다는 의지입니다. 알리바바는 곧 출시될 젠우 V900 칩에 216GB의 온패키지 메모리가 탑재될 것이며, 2027년 1분기에 공식 출시될 예정이라고 밝혔습니다. 양산 일정이 겹치는 점을 고려할 때, V900은 CXMT의 HBM3E을 탑재할 것으로 추측 됩니다.
물론 하이퍼스케일러가 되기 위해서는 AI 가속기 만으로는 불가능합니다. 한 개의 기속기에서 10조 개의 파리미터를 돌릴 순 없기 때문입니다. 젠우 V900 가속기는 알리바바의 ICN 스위치 패브릭을 통해 약 1.2TB/s의 칩 간 인터커넥트 속도를 제공합니다. 그리고 기본적으로 전 세대인 젠우 M890보다 약 3배 높은 성능을 제공하고 FP8/FP4 지원도 추가됐습니다. M890이 약 0.6PFLOPS의 FP16 연산 성능을 지닌 점을 고려할 때, V900은 최대 약 1.8PFLOPS의 연산 성능을 제공할 수 있고 FP8/4에서는 이보다 2배 4배 높은 성능이 가능합니다.
엔비디아의 베라 루빈이 50PFLOPS FP4 성능을 지닌 점을 생각하면 아주 인상적이진 않지만, 자체 칩이 아니면 화웨이 어센드를 사용해야 하는 상황에서 이는 꽤 괜찮은 대안으로 보입니다. 알리바바에 의하면 ICN 스위치는 약 1,000개의 젠우 V900 칩을 단일 가속기로 작동시킬 수 있습니다. 따라서 10조 개의 파리미터를 지닌 모델도 감당할 수 있습니다.
다만 알리바바는 최대 50만 개의 V900 가속기를 확장할 것이라고 주장했는데, 이는 108페타바이트의 HBM 메모리를 의미하기 때문에 초기 수율이 좋지 않다고 알려진 CXMT가 이 수요를 모두 감당할 수 있을진 다소 의문입니다. 이 부분은 실제 양산 및 캐파 확장 상황을 봐야 판단할 수 있을 것입니다. 아무튼 알리바바는 이제 이티안 CPU, 젠우 V900 GPU, ICN 인터커넥트, 판구 NIC 및 젠위에 스토리지 컨트롤러를 포함한 자체 맞춤형 랙 스케일 솔루션을 개발하고 있습니다.
이를 통해 알리바바는 20GW급 AI 데이터 센터를 구축하고 초대형 모델인 Qwen 4.5, Qwen 5.0 을 자체 하드웨어로 돌릴 예정으로 보입니다. 과연 이 목표가 성공을 거둘 수 있을지 주목됩니다.
참고
댓글
댓글 쓰기