기본 콘텐츠로 건너뛰기

알리바바 XuanTie C950 - Qwen 3.8 27B를 돌리는 RISC-V 컴퓨터





 (출처: 알리바바)

​

​

알리바바는 2026년 3월, 엣지 AI용 RISC-V 기반 칩인 쉬안테 (XuanTie) C950을 공개했습니다. 일반적인 ASIC과 달리 쉬안테 C950은 AI 워크로드 처리에 GPU를 사용하지 않습니다. 대신 고성능 64비트 RISC-V 코어 64개를 집적한 프로세서로 클럭 주파수는 최대 3.20GHz까지 작동합니다. 아키텍처를 보면 클러스터당 8개의 코어로 구성된 여러 클러스터가 고속 AMBA CHI 패브릭을 사용하여 네이티브 방식으로 연결됩니다.

​

AI 생성 정리 (그록)

​

XuanTie C950 아키텍처와 메모리 서브시스템에 대한 상세 정보를 정리했습니다. (공식 데이터시트·발표 자료·기술 기사 기반)

​

1. 기본 아키텍처 개요

​

  • ISA: RISC-V RVA23 (RVA23.1 포함) 프로필 완전 지원

  • 필수 확장 + 거의 모든 선택 확장 지원 (Vector Crypto, Zacas, Zama16b, Smmtt, CoVE, AIA, RAS 등)

  • 마이크로아키텍처:

  • 64비트 슈퍼스칼라 아웃오브오더(Out-of-Order)

  • 8-wide decode (한 번에 8개 명령어 디코드)

  • 16-stage 파이프라인

  • 아웃오브오더 윈도우: 1,000개 이상 명령어

  • TAGE 기반 고급 분기 예측 + 하드웨어 지능형 데이터 프리페치

  • 클럭: 최대 3.2 GHz

  • 성능: SPECint2006 단핵 70점 이상 (약 22+/GHz) → RISC-V 역대 최고 수준

  • 공정: 5nm (TSMC로 추정, 공식 확인은 없음)

  • 클러스터 구성: 클러스터당 최대 8코어, 여러 클러스터를 연결해 최대 64코어 구성 가능

  • 클러스터 내부: 고속 AMBA CHI (CHI.E / CHI.F) 패브릭으로 연결

​

2. 메모리 서브시스템 (캐시 & MMU) — 핵심 부분

계층

구성

상세 스펙

L1 캐시

코어당 프라이빗

- 데이터 캐시: 64KB, 4-way set-associative - Load-to-use 지연: 4사이클 (매우 낮음) - 명령어 캐시도 일반적으로 64KB 수준

L2 캐시

코어당 프라이빗

- 용량 선택 가능: 256KB / 512KB / 1MB / 2MB / 3MB - ECC 지원 옵션

L3 캐시

클러스터/공유 (옵션)

- 용량 선택 가능: 0 / 1 / 2 / 3 / 4 / 6 / 8 / 12 / 16 / 24 / 32MB - 고대역폭 분산형 설계로 코어 간 통신 병목 완화

MMU

-

- 지원 모드: Sv39 / Sv48 / Sv57 - 물리 주소: PA48 - 2단계 주소 변환 지원 지원 (가상화에 유리)

  • 메모리 모델: AVWMO / TSO를 동적으로 전환 가능

  • 프리페치: 하드웨어 레벨 지능형 데이터 프리페칭으로 메모리 스트링을 미리 캐시에 로드

  • 대역폭: 이전 세대(C920) 대비 메모리 대역폭 4배 이상 향상 주장

이 캐시 계층 구조가 LLM 추론에서 중요한 역할을 합니다. 낮은 L1 지연 + 큰 프라이빗 L2 + 유연한 L3 조합으로 가중치와 활성화 값을 효율적으로 재사용합니다.

​

3. AI 가속 (메모리와 밀접한 부분)

  • XuanTie TPE (Tensor Processing Engine): AME (Attached Matrix Extension)를 통해 코어에 긴밀히 통합

  • 단 TPE당 최대 8 TOPS

  • 지원 데이터 타입: INT4/INT8, FP8, MXFP8, MXFP4, RVFP4, FP16, BF16 등

  • Matrix 엔진 + Vector 엔진 병렬 실행 가능 (Softmax, SiLU, GELU 등 연산 가속)

  • TPE는 코어 자원을 거의 소비하지 않는 디커플드 설계이며, 여러 코어가 하나의 TPE를 공유할 수 있음

  • TPE 내부에 4,000-bit 규모의 테일 레지스터 캐시를 두어 데이터 재사용을 극대화

​

4. 버스 & 시스템 인터페이스

  • Direct Connect Mode: CHI.E / CHI.F

  • Multi-Processor Mode: AXI4.0 / ACE4.0 + XL-300 인터커넥트

  • QoS 지원 (CBQRI 등)

  • 가상화: Type-1 / Type-2 하이퍼바이저 지원

​

5. Qwen3.8-27B와의 연관성

​

64코어 구성에서 Qwen3.8-27B를 돌렸을 때 Decode ≈ 30 tok/s, TTFT ≈ 1.9초를 기록했습니다. GPU 없이도 이 속도가 나오는 이유는 바로 위의 낮은 지연 캐시 계층 + TPE 행렬 가속 + 소프트웨어 최적화(SHL 런타임)가 결합됐기 때문입니다.

​

요약 포인트

  • 메모리 쪽 강점: 4사이클 L1 + 최대 3MB 프라이빗 L2 + 유연한 공유 L3 → LLM처럼 메모리 대역폭과 지연에 민감한 워크로드에 유리

  • 한계: 아직 공개된 정보가 “CPU IP” 수준이라, 실제 SoC에 통합될 때의 메인 메모리(HBM/DDR) 컨트롤러 세부 사항이나 최종 대역폭 수치는 제품마다 다를 수 있습니다.

​

_____________________________________________________________________________

​

​

이 칩은 오픈 소스 RISC-V ISA를 기반으로 하므로 알리바바는 x86 아키텍처 또는 ARM 설계와 관련된 라이선스 비용을 우회할 수 있습니다. 이를 통해 수출 제재나 혹은 특허 분쟁 없이 저렴한 비용으로 자체 프로세서를 제조할 수 있습니다. 단 GPU와 달리 쉬안테 C950은 소켓당 하나의 추론 스레드를 실행하므로 높은 동시성을 요구하는 공용 API보다는 엣지 배포 및 비공개 추론에 더 적합합니다. 제조 공정은 아마도 TSMC 5nm인 것으로 보이는데, 이 역시 지금은 다소 저렴하게 사용할 수 있습니다.

​

알리바바는 최근 Qwen-3.8 27B 모델을 공개했는데, 27B Dense 모델이면서 전세대 플래그쉽인 Qwen3.5-397B-A17B(MoE, total 397B / active 약 17B)를 주요 코딩 벤치마크에서 앞섰습니다. 전반적인 성능은 오푸스 4.6급에 견줄 수 있다는 이야기가 나올 정도입니다.

​

이전 포스트: https://blog.naver.com/jjy0501/224382017319

​

그런데 알리바바는 바로 쉬안테 C950 칩에 Qwen 3.8 27B 모델을 올려 지원하기 시작했습니다. 32GB 메모리 (구체적인 속도는 공개하지 않음)에서 초당 30개의 토큰을 디코딩하고 첫 번째 토큰 수신 시간(TTFT)을 단 1.9초로 단축했습니다. 속도는 아주 빠르진 않지만, 비교적 저렴한 자체 하드웨어에서 Qwen 3.8 27B를 서비스할 수 있게 되면서 비용을 크게 절감할 수 있게 된 것입니다.

​

참고로 최근 새로 업그레이드 한 인텔 270K 플러스 + DDR5 6400 + RTX 4080에서 돌려봤는데 Qwen 3.8 27B은 대략 토큰 속도 16-20t/s 정도 나옵니다. 좀 더 최적화해서 속도를 높일 여지가 있긴 한데, 아무튼 RISC-V 컴퓨터로 GPU 없이도 그에 맞먹는 속도를 낼 수 있으면 비용 절감 차원에선 상당히 유리한 게 아닐까 생각해 봅니다.

​

실제로 써본 초기 평가는 R 코딩 결과물은 제법 그럴 듯해 보이지만, 여기 저기 숨은 버그들이 존재합니다. 코드를 좀 장황하게 짜는 편이라서 어디가 잘못됐는지 오히려 쉽게 파악할 수 없기 때문에 너무 길게 생각하지 않도록 조정할 필요가 있습니다. 어제도 버그 잡는데 30분 넘게 걸렸습니다.

​

현재 프론티어 AI 대비 코딩 실력이 더 뛰어나다곤 할 수 없지만, 로컬 컴퓨터에서 제한없이 돌릴 수 있고 정보 유출 걱정이 없는 특징 때문에 앞으로 계속 쓸 것 같습니다. 상대적으로 대중적 인지도는 낮지만 알리바바 Qwen이 로컬 LLM에서 실사용 비중이 앞으로 꽤 커질 것으로 보이는 가운데 자체 하드웨어로 돌릴 수 있다면 미니 AI PC를 내놓을 수 있지 않을까 하는 생각도 드네요.

​

​

참고

​

https://wccftech.com/alibabas-tsmc-built-5nm-risc-v-chip-xuantie-c950-now-runs-qwen-3-8-27b-model-natively-unlocking-massive-vertical-integration-tailwinds/

댓글

이 블로그의 인기 게시물

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...

렘 수면이 식이 패턴에 영향을 준다?

  ( Using a techniqu e called optogenetics, the activity of cells in the brain can be specifically suppressed with light pulses. Credit: Pascal Gugler / Insel Gruppe )  수면 중 빠른 안구 운동이 발생하는 렘 (REM) 수면은 아직도 그 기능이 완전히 밝혀지지 않았지만, 수면에서 매우 중요한 부분이라는 사실은 확실합니다. 렘 수면은 꿈과 관련이 깊으며 전체 수면 시간이 부족하지 않더라도 렘 수면 시간이 짧으면 다음날 집중력이 떨어지고 많이 피곤하게 됩니다. 아마도 렘 수면 시간 동안 여러 가지 기능과 작업이 이뤄짐을 시사하는 결과입니다.   베른 대학교 ( University of Bern )의 과학자들은 쥐를 이용한 동물 모델을 통해서 렘 수면이 식이 패턴에 미치는 영향을 조사했습니다. 연구팀은 렘 수면이 외측 시상하부 ( lateral hypothalamus)에 영향을 주어 식욕을 조절할 수 있다는 증거를 발견했습니다. 외측 시상하부는 모든 포유류에서 볼 수 있는 시상하부의 작은 핵으로 식욕을 조절하는데 중요한 역할을 하는 것으로 생각됩니다. 과거 과학자들은 렘 수면 동안 외측 시상하부가 활성화되는 것을 확인했지만, 렘 수면이 실제 식욕을 조절하는지에 대해서는 알지 못했습니다. 렘 수면 동안 외측 시상하부만 차단할 방법이 없었기 때문입니다.   연구팀은 빛으로 살아있는 세포를 조절하는 기술인 광유전학 (optogenetic) 방식으로 렘 수면 중인 쥐의 외측 시상하부 활동을 차단했습니다. 그 결과 쥐의 식욕이 저하되는 것을 확인할 수 있었습니다. 불과 하루 간 차단만으로도 4일 정도 효과가 지속될 정도로 식욕에 대한 영향이 컸습니다. 이는 렘 수면이 식욕을 적절하게 유지하는 데 도움을 준다는 점을 시사합니다.   사실 최근에 다이어트에 대한 수요가 폭발해서 ...

비타민 D - 우울증 예방 효과는 없다

   다른 비타민과 마찬가지로 비타민 D는 사람이 살아가는데 반드시 필요한 비타민입니다. 비타민 D가 부족한 경우 뼈에 심각한 문제가 생길 수 있습니다. 그런데 한 가지 더 흥미로운 사실은 여러 질병에서 비타민 D 부족이 관찰된다는 것입니다. 예를 들어 우울증의 경우에도 비타민 D 부족이 보고된 바 있습니다. 일부 연구자들은 햇빛을 받아 생성되는 비타민 D 부족이 계절성 우울증 장애 (seasonal affective disorder)의 원인일지 모른다고 생각해왔습니다.   하지만 하버드 의대와 메사추세스 종합 병원(MGH)의 연구팀은 비타민 D3 (cholecalciferol) 보충제를 사용한 대규모 임상 시험에서 비타민 D 복용이 우울증 예방에 특별한 효과가 없다는 사실을 확인했습니다. 이 연구는 종합 비타민제 혹은 단독으로 사용되는 비타민 D 보충제가 질병 예방에 효과가 있는지를 알아보기 위한 것으로 평균 67세의 건강한 성인 남녀 18,353명을 대상으로 진행되었습니다. 연구 참여자들은 두 그룹으로 나뉘어 콜레칼시페롤 (비타민 D3) 2000 IU 혹은 위약을 받아 5년간 복용했습니다. 우울증의 정도는 8-item Patient Health Questionnaire depression scale [PHQ-8]로 측정했습니다.   이 연구에서는 분명한 비타민 D 결핍증이 있는 경우는 제외했는데, 의학적으로 보충이 필요한 정도의 결핍이라면 치료를 하는 게 맞지 위약을 5년이나 주는 것은 윤리적으로 문제가 있기 때문입니다. 따라서 연구의 목표는 비타민이 부족하지 않은 건강한 사람에서 비타민 보충제가 혹시 우울증 예방에 효과가 있는지를 알아보려는 것입니다.   연구 결과 실험군과 대조군 사이에는 통계적으로 유의한 차이가 없었습니다. 우울증 발생률은 두 그룹에서 별로 차이가 없었으며 연구 시작과 종료 시점에 그룹 내에서도 별 차이가 없었습니다. 따라서 비타민 D가 부족하지 않...