기본 콘텐츠로 건너뛰기

AMD 라이젠 AI 헤일로 리뷰 공개 - DGX Spark 보다 느리다.

 






(출처: AMD)

​

​

AMD가 맥 미니 (M4 프로 기준) 킬러 (?)라고 출시한 AI 미니 PC인 AMD 라이젠 AI의 벤치마크 결과들이 공개되고 있습니다. 결론적으로 말하면 AI 작업에서 가격대를 감안할 때 실제 경쟁자인 엔비디아의 DGX Spark에 비해 확실하게 느리다는 것입니다. 일단 AMD 라이젠 AI의 제원은 아래와 같습니다.

​

  • CPU: 16코어 32스레드 Zen 5 (Ryzen AI Max+ 395)

  • GPU: Radeon 8060S (RDNA 3.5, 2560 스트림 프로세서 / 40 CU)

  • NPU: XDNA 2

  • 메모리: 128GB LPDDR5X-8000 (통합 메모리, 256GB/s 대역폭) → 최대 ~200B 파라미터 모델 지원

  • 저장소: 2TB NVMe SSD

  • 네트워킹: 10GbE + Wi-Fi 7

  • 포트: USB4, HDMI 2.1 등

  • TDP: 120W

  • 크기: 매우 컴팩트 (150 x 150 x 45.4 mm)

  • OS: Linux (Debian 기반, ROCm 프리로드) 또는 Windows 11

  • 가격: $3,999

​

라이젠 AI 헤일로는 ROCm 스택과 AI 앱(ComfyUI, vLLM 등)이 미리 설치되어 있고, AMD의 Playbooks(사용 가이드)가 제공되어 초보자도 빠르게 시작 가능하다는 점이 큰 장점입니다. 또 직접적인 경쟁자인 DGX Spark와 비교되는 특징은 윈도우 설치가 가능하다는 것입니다. 하지만 장점은 여기까지입니다.

​

​

탐스 하드웨어 리뷰: https://www.tomshardware.com/pc-components/gpus/embargo-mon-july-6-8am-pt-1100-edt-amd-ryzen-ai-halo-review

​

탐스 하드웨어 리뷰를 정리하면 라이젠 AI 헤일로는 CPU만 빠릅니다.

​

1. CPU 및 일반 컴퓨팅 성능 (Geekbench 6)

​

AMD는 강력한 Zen 5 아키텍처를 통해 CPU 연산 능력에서 경쟁 모델(Nvidia 기반 Dell Pro Max GB10)을 앞섭니다.

​

Single-Core: Ryzen AI Halo (3,122) > Dell Pro Max GB10 (2,957)

Multi-Core: Ryzen AI Halo (20,451) > Dell Pro Max GB10 (18,360)

결론: 코딩, 컴파일 등 일반적인 생산성 작업 및 범용 컴퓨팅 성능에서 우위에 있습니다.

​

2. AI 추론 성능 (Throughput: Tokens per second)

​

LLM(대규모 언어 모델) 추론 성능에서는 모든 테스트 모델에서 Nvidia(Dell Pro Max GB10)가 Ryzen AI Halo보다 우세한 결과를 보였습니다.

​

Gemma 4 12B-IT / Qwen 3.6-35B-A3B / gpt-oss-120B: 모든 모델에서 Dell Pro Max GB10(녹색)의 초당 토큰 생성 속도가 Ryzen AI Halo(적색)보다 높게 나타납니다.

Context Depth 영향: 컨텍스트 깊이(Context Depth)가 길어질수록 두 모델 모두 성능이 하락하지만, Ryzen AI Halo의 성능 저하 폭이 상대적으로 더 크거나 더 낮은 지점에서 유지됩니다.

결론: 메모리 대역폭(256GB/s)의 한계로 인해 AI 추론 속도에서는 Nvidia 제품군에 비해 열세에 있습니다.

​

3. AI 반응 속도 (Time-to-first-token Latency)

​

사용자가 질문을 던진 후 첫 토큰이 나올 때까지의 지연 시간(Latency)은 Nvidia 제품이 압도적으로 빠릅니다.

​

특이사항: 컨텍스트 깊이가 깊어질수록(65536 기준) Ryzen AI Halo의 지연 시간이 기하급수적으로 증가합니다.

예 (Gemma 4 12B-IT): Ryzen AI Halo (235.5초) vs Dell Pro Max GB10 (47.8초)

결론: 긴 문맥을 다루는 대화형 AI 작업 시, Ryzen AI Halo는 Nvidia 대비 체감될 정도로 느린 반응 속도를 보입니다.

​

4. 이미지 생성 성능 (ComfyUI - Flux.2 Klein)

​

Dell Pro Max GB10: 101.25초

Ryzen AI Halo: 632초

결론: 이미지 생성 작업에서 Ryzen AI Halo는 경쟁 모델 대비 약 6배 이상 느린 성능을 기록하며 가장 큰 격차를 보였습니다.

​

5. 기타 요소 (소음 및 환경)

​

소음 (Noise level):

Idle(대기 시): 두 제품 모두 비슷함 (34 vs 33.3 dBA)

Load(작업 시): Ryzen AI Halo (41.5 dBA)가 Dell Pro Max GB10 (37 dBA)보다 소음이 다소 높음.

​

​

이미지 생성이나 토큰 생성, 그리고 첫 응답 속도 모두 생각보다 엄청나게 큰 차이가 나는데, 기본적으로 라데온 RDNA 3.5보다 블랙웰 아키텍처 기반의 GPU가 하드웨어 자체 성능이 높고 소프트웨어 생태계도 최적화되어 있다는 점을 감안하면 어쩔 수 없는 차이로 보입니다. 그럼에도 일부에서 6배 이상 벌어지는 차이를 보면 조금 저렴하다고 이걸 구매하는 사람이 있을까 하는 의구심이 드는 결과입니다.

​

결국 자신보다 훨씬 저렴한 맥 미니 M4 pro 버전을 경쟁자처럼 묘사한데는 그럴 수밖에 없는 이유가 있었던 것으로 보입니다. 하지만 출시 전 성능이 DGX Spark와 일부 비슷할 것처럼 언급한 부분은 결과를 보니 황당하다는 느낌마져 듭니다. (위의 슬라이드 참조)

​

이전 포스트: https://blog.naver.com/jjy0501/224292454602

​

일단 출시 가격은 3999달러인데, DGX Spark보다 약간 낮은 가격에도 판매량은 많지 않을 것으로 예상됩니다. 고성능 노트북 CPU 대신 AI 전용 칩을 만들어서 대응해야 하지 않았나 하는 생각입니다.

​

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) )  앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는  미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기   이전 포스트:  https://blog.naver.com/jjy0501/221115245986  (동영상)   V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다.   참고  https://newatlas.com/bell-v-280-valor-maiden-flight/52663/
댓글 쓰기
자세한 내용 보기

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...
댓글 쓰기
자세한 내용 보기

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...
댓글 쓰기
자세한 내용 보기