기본 콘텐츠로 건너뛰기

AMD 라이젠 AI 헤일로 리뷰 공개 - DGX Spark 보다 느리다.

 






(출처: AMD)

​

​

AMD가 맥 미니 (M4 프로 기준) 킬러 (?)라고 출시한 AI 미니 PC인 AMD 라이젠 AI의 벤치마크 결과들이 공개되고 있습니다. 결론적으로 말하면 AI 작업에서 가격대를 감안할 때 실제 경쟁자인 엔비디아의 DGX Spark에 비해 확실하게 느리다는 것입니다. 일단 AMD 라이젠 AI의 제원은 아래와 같습니다.

​

  • CPU: 16코어 32스레드 Zen 5 (Ryzen AI Max+ 395)

  • GPU: Radeon 8060S (RDNA 3.5, 2560 스트림 프로세서 / 40 CU)

  • NPU: XDNA 2

  • 메모리: 128GB LPDDR5X-8000 (통합 메모리, 256GB/s 대역폭) → 최대 ~200B 파라미터 모델 지원

  • 저장소: 2TB NVMe SSD

  • 네트워킹: 10GbE + Wi-Fi 7

  • 포트: USB4, HDMI 2.1 등

  • TDP: 120W

  • 크기: 매우 컴팩트 (150 x 150 x 45.4 mm)

  • OS: Linux (Debian 기반, ROCm 프리로드) 또는 Windows 11

  • 가격: $3,999

​

라이젠 AI 헤일로는 ROCm 스택과 AI 앱(ComfyUI, vLLM 등)이 미리 설치되어 있고, AMD의 Playbooks(사용 가이드)가 제공되어 초보자도 빠르게 시작 가능하다는 점이 큰 장점입니다. 또 직접적인 경쟁자인 DGX Spark와 비교되는 특징은 윈도우 설치가 가능하다는 것입니다. 하지만 장점은 여기까지입니다.

​

​

탐스 하드웨어 리뷰: https://www.tomshardware.com/pc-components/gpus/embargo-mon-july-6-8am-pt-1100-edt-amd-ryzen-ai-halo-review

​

탐스 하드웨어 리뷰를 정리하면 라이젠 AI 헤일로는 CPU만 빠릅니다.

​

1. CPU 및 일반 컴퓨팅 성능 (Geekbench 6)

​

AMD는 강력한 Zen 5 아키텍처를 통해 CPU 연산 능력에서 경쟁 모델(Nvidia 기반 Dell Pro Max GB10)을 앞섭니다.

​

Single-Core: Ryzen AI Halo (3,122) > Dell Pro Max GB10 (2,957)

Multi-Core: Ryzen AI Halo (20,451) > Dell Pro Max GB10 (18,360)

결론: 코딩, 컴파일 등 일반적인 생산성 작업 및 범용 컴퓨팅 성능에서 우위에 있습니다.

​

2. AI 추론 성능 (Throughput: Tokens per second)

​

LLM(대규모 언어 모델) 추론 성능에서는 모든 테스트 모델에서 Nvidia(Dell Pro Max GB10)가 Ryzen AI Halo보다 우세한 결과를 보였습니다.

​

Gemma 4 12B-IT / Qwen 3.6-35B-A3B / gpt-oss-120B: 모든 모델에서 Dell Pro Max GB10(녹색)의 초당 토큰 생성 속도가 Ryzen AI Halo(적색)보다 높게 나타납니다.

Context Depth 영향: 컨텍스트 깊이(Context Depth)가 길어질수록 두 모델 모두 성능이 하락하지만, Ryzen AI Halo의 성능 저하 폭이 상대적으로 더 크거나 더 낮은 지점에서 유지됩니다.

결론: 메모리 대역폭(256GB/s)의 한계로 인해 AI 추론 속도에서는 Nvidia 제품군에 비해 열세에 있습니다.

​

3. AI 반응 속도 (Time-to-first-token Latency)

​

사용자가 질문을 던진 후 첫 토큰이 나올 때까지의 지연 시간(Latency)은 Nvidia 제품이 압도적으로 빠릅니다.

​

특이사항: 컨텍스트 깊이가 깊어질수록(65536 기준) Ryzen AI Halo의 지연 시간이 기하급수적으로 증가합니다.

예 (Gemma 4 12B-IT): Ryzen AI Halo (235.5초) vs Dell Pro Max GB10 (47.8초)

결론: 긴 문맥을 다루는 대화형 AI 작업 시, Ryzen AI Halo는 Nvidia 대비 체감될 정도로 느린 반응 속도를 보입니다.

​

4. 이미지 생성 성능 (ComfyUI - Flux.2 Klein)

​

Dell Pro Max GB10: 101.25초

Ryzen AI Halo: 632초

결론: 이미지 생성 작업에서 Ryzen AI Halo는 경쟁 모델 대비 약 6배 이상 느린 성능을 기록하며 가장 큰 격차를 보였습니다.

​

5. 기타 요소 (소음 및 환경)

​

소음 (Noise level):

Idle(대기 시): 두 제품 모두 비슷함 (34 vs 33.3 dBA)

Load(작업 시): Ryzen AI Halo (41.5 dBA)가 Dell Pro Max GB10 (37 dBA)보다 소음이 다소 높음.

​

​

이미지 생성이나 토큰 생성, 그리고 첫 응답 속도 모두 생각보다 엄청나게 큰 차이가 나는데, 기본적으로 라데온 RDNA 3.5보다 블랙웰 아키텍처 기반의 GPU가 하드웨어 자체 성능이 높고 소프트웨어 생태계도 최적화되어 있다는 점을 감안하면 어쩔 수 없는 차이로 보입니다. 그럼에도 일부에서 6배 이상 벌어지는 차이를 보면 조금 저렴하다고 이걸 구매하는 사람이 있을까 하는 의구심이 드는 결과입니다.

​

결국 자신보다 훨씬 저렴한 맥 미니 M4 pro 버전을 경쟁자처럼 묘사한데는 그럴 수밖에 없는 이유가 있었던 것으로 보입니다. 하지만 출시 전 성능이 DGX Spark와 일부 비슷할 것처럼 언급한 부분은 결과를 보니 황당하다는 느낌마져 듭니다. (위의 슬라이드 참조)

​

이전 포스트: https://blog.naver.com/jjy0501/224292454602

​

일단 출시 가격은 3999달러인데, DGX Spark보다 약간 낮은 가격에도 판매량은 많지 않을 것으로 예상됩니다. 고성능 노트북 CPU 대신 AI 전용 칩을 만들어서 대응해야 하지 않았나 하는 생각입니다.

​

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

100 테슬라급 자기장 도달

 미국의 로스 알라모스 국립 연구소 (Los Alamos National Laboratory) 에서 과학자들이 지금까지 인간이 개발한 가장 강력한 자기장을 발생시키는 장치 개발에 도전하고 있습니다. 자기장의 세기를 나타내는 방법으로 자기력선의 밀도를 나타내기 위해 단위 면적당 자기력선의 수를 표시하는 단위인 테슬라 (T) 가 있습니다. (1T = 1Wb/㎡  웨버 (Wb) 는 자속의 단위)   의료용으로 사용되는 초전도체를 이용한 MRI 의 경우 1.5 - 3 테슬라급의 강력한 자기장으로 인체 내부를 볼 수 있게 만들지만 과학 연구용으로 이보다 더 강력한 자기장이 필요할 수 있습니다. 최근에 등장한 90 테슬라급 자기장에 이어 이번에 로스 알라모스 국립 연구소에서는 100 테슬라급인 100.75 T 를 실현 했다고 합니다.   이를 구현한 것은 18000 파운드 (8.16 톤 정도) 의 코일과 여기에 에너지를 공급할 1200 메가줄 (Megajoule) 급 모터 제네레이터등의 설비입니다.  (   The 1,200-megajoule motor generator that powers the magnetic pulse.  )  이와 같은 연구를 통해 알아내고자 하는 것은  Quantum Phase transitions and new ultra high field magnetic states Electronic Structure determination Topologically protected states of matter  로 요약할 수 있다고 합니다.   아무튼 수 T 급 MRI 만 해도 자기장의 힘이 엄청난데 100 T 라니 엄청난 자기장이네요. 이는 지구 자기장 세기보다 200만배 강력한 (물론 좁은 범위에서 작용하는 자기장이라 지구 전체...
댓글 쓰기
자세한 내용 보기

고대 양서류 이야기 (2) - 악어를 닮은 거대 양서류들

  페름기에는 다양한 양막류가 진화해서 앞서 소개한 육상형 템노스폰딜리는 점차 설 자리를 잃게 됩니다. 하지만 양서류는 본래 자신의 서식지인 물과 습지에서 여전히 번성을 누렸습니다. 당시에는 악어류 같은 대형 양서형 파충류도 없던 시절이었기 때문에 이와 비슷한 생태학적 지위는 여전히 양서류의 몫이었습니다. 이들에 대한 이야기는 제 책인 포식자에서 비교적 간단히 다뤘는데, 오늘은 여기에 대한 보충 설명입니다.  책 정보:  http://book.naver.com/bookdb/book_detail.nhn?bid=13347200 Yes 24:  http://www.yes24.com/24/goods/58772859 11번가:  http://books.11st.co.kr/product/SellerProductDetail.tmall?method=getSellerProductDetail&prdNo=1977867160 알라딘:  http://www.aladin.co.kr/shop/wproduct.aspx?ItemId=134877825 교보문고:  http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788970447988&orderClick=LAG&Kc= 인터파크 :  http://book.interpark.com/product/BookDisplay.do?_method=detail&sc.prdNo=279593764&sc.saNo=003002003&bid1=search_auto&bid2=detail&bid3=prd_img&bid4=001 영풍문고:  http://www.ypbooks.co.kr/book.yp?bookcd=100843205&gubun=NV ...
댓글 쓰기
자세한 내용 보기

이빨이 다시 진화한 개구리

  ( CT scans of Gastrotheca guentheri skulls revealed what appeared to be identical rows of teeth on both the upper and lower jaws, which researchers later confirmed through dissection. Credit: Florida Museum/Daniel Paluh )  개구리는 2억년 전 진화 과정에서 이빨을 잃어버리고 큰 턱과 혀를 이용해 곤충 같은 작은 먹이를 잡아 먹는 방향으로 진화했습니다. 파충류나 포유류 같은 다른 사지류와의 경쟁에서 밀려 양서류가 쇠퇴하고 멸종하던 시기에도 개구리는 여전히 생존할 수 있었던 비결입니다.   이빨이 없는 덕분에 큰 혀를 발사하기 편해졌을지는 모르지만, 이빨이 없으면 종종 불편할 때가 있습니다. 씹는 대신 삼키기 때문에 음식을 씹을 수 없다는 점은 문제되지 않지만, 필사적으로 달아나려는 먹이를 잡기 힘들기 때문입니다. 이런 이유 때문에 일부 개구리는 이빨 같이 보이는 엄니 (fang)을 지니고 있으나 이는 사라진 이빨이 다시 난 것이 아니라 다른 부분이 진화한 것입니다.   이는 돌로의 법칙 ( Dollo's Law )으로 알려져 있습니다. 진화 과정에서 퇴화한 부분이 다시 생겨나지 않으며 대신 필요하면 다른 부분이 진화해 그 역할을 대신한다는 것입니다. 예를 들어 아가미가 사라진 사지 동물은 다시 물에 들어온다고 해도 아가미가 다시 생기진 않습니다. 대신 고래처럼 폐가 커져서 그 기능을 대신하게 됩니다.   하지만 모든 법칙엔 예외가 있기 마련입니다. 남미에서 발견된 멸종 위기 개구리 중 하나인 구엔터 유대류 개구리 ( Gastrotheca guentheri, Guenther's marsupial frog, dentate marsupial frog)는 완전한 형태의 이빨을 지니고 있습니다. 참고로 유대류 개구리라는 명칭은...
댓글 쓰기
자세한 내용 보기