기본 콘텐츠로 건너뛰기

AMD 라이젠 AI 헤일로 리뷰 공개 - DGX Spark 보다 느리다.

 






(출처: AMD)

​

​

AMD가 맥 미니 (M4 프로 기준) 킬러 (?)라고 출시한 AI 미니 PC인 AMD 라이젠 AI의 벤치마크 결과들이 공개되고 있습니다. 결론적으로 말하면 AI 작업에서 가격대를 감안할 때 실제 경쟁자인 엔비디아의 DGX Spark에 비해 확실하게 느리다는 것입니다. 일단 AMD 라이젠 AI의 제원은 아래와 같습니다.

​

  • CPU: 16코어 32스레드 Zen 5 (Ryzen AI Max+ 395)

  • GPU: Radeon 8060S (RDNA 3.5, 2560 스트림 프로세서 / 40 CU)

  • NPU: XDNA 2

  • 메모리: 128GB LPDDR5X-8000 (통합 메모리, 256GB/s 대역폭) → 최대 ~200B 파라미터 모델 지원

  • 저장소: 2TB NVMe SSD

  • 네트워킹: 10GbE + Wi-Fi 7

  • 포트: USB4, HDMI 2.1 등

  • TDP: 120W

  • 크기: 매우 컴팩트 (150 x 150 x 45.4 mm)

  • OS: Linux (Debian 기반, ROCm 프리로드) 또는 Windows 11

  • 가격: $3,999

​

라이젠 AI 헤일로는 ROCm 스택과 AI 앱(ComfyUI, vLLM 등)이 미리 설치되어 있고, AMD의 Playbooks(사용 가이드)가 제공되어 초보자도 빠르게 시작 가능하다는 점이 큰 장점입니다. 또 직접적인 경쟁자인 DGX Spark와 비교되는 특징은 윈도우 설치가 가능하다는 것입니다. 하지만 장점은 여기까지입니다.

​

​

탐스 하드웨어 리뷰: https://www.tomshardware.com/pc-components/gpus/embargo-mon-july-6-8am-pt-1100-edt-amd-ryzen-ai-halo-review

​

탐스 하드웨어 리뷰를 정리하면 라이젠 AI 헤일로는 CPU만 빠릅니다.

​

1. CPU 및 일반 컴퓨팅 성능 (Geekbench 6)

​

AMD는 강력한 Zen 5 아키텍처를 통해 CPU 연산 능력에서 경쟁 모델(Nvidia 기반 Dell Pro Max GB10)을 앞섭니다.

​

Single-Core: Ryzen AI Halo (3,122) > Dell Pro Max GB10 (2,957)

Multi-Core: Ryzen AI Halo (20,451) > Dell Pro Max GB10 (18,360)

결론: 코딩, 컴파일 등 일반적인 생산성 작업 및 범용 컴퓨팅 성능에서 우위에 있습니다.

​

2. AI 추론 성능 (Throughput: Tokens per second)

​

LLM(대규모 언어 모델) 추론 성능에서는 모든 테스트 모델에서 Nvidia(Dell Pro Max GB10)가 Ryzen AI Halo보다 우세한 결과를 보였습니다.

​

Gemma 4 12B-IT / Qwen 3.6-35B-A3B / gpt-oss-120B: 모든 모델에서 Dell Pro Max GB10(녹색)의 초당 토큰 생성 속도가 Ryzen AI Halo(적색)보다 높게 나타납니다.

Context Depth 영향: 컨텍스트 깊이(Context Depth)가 길어질수록 두 모델 모두 성능이 하락하지만, Ryzen AI Halo의 성능 저하 폭이 상대적으로 더 크거나 더 낮은 지점에서 유지됩니다.

결론: 메모리 대역폭(256GB/s)의 한계로 인해 AI 추론 속도에서는 Nvidia 제품군에 비해 열세에 있습니다.

​

3. AI 반응 속도 (Time-to-first-token Latency)

​

사용자가 질문을 던진 후 첫 토큰이 나올 때까지의 지연 시간(Latency)은 Nvidia 제품이 압도적으로 빠릅니다.

​

특이사항: 컨텍스트 깊이가 깊어질수록(65536 기준) Ryzen AI Halo의 지연 시간이 기하급수적으로 증가합니다.

예 (Gemma 4 12B-IT): Ryzen AI Halo (235.5초) vs Dell Pro Max GB10 (47.8초)

결론: 긴 문맥을 다루는 대화형 AI 작업 시, Ryzen AI Halo는 Nvidia 대비 체감될 정도로 느린 반응 속도를 보입니다.

​

4. 이미지 생성 성능 (ComfyUI - Flux.2 Klein)

​

Dell Pro Max GB10: 101.25초

Ryzen AI Halo: 632초

결론: 이미지 생성 작업에서 Ryzen AI Halo는 경쟁 모델 대비 약 6배 이상 느린 성능을 기록하며 가장 큰 격차를 보였습니다.

​

5. 기타 요소 (소음 및 환경)

​

소음 (Noise level):

Idle(대기 시): 두 제품 모두 비슷함 (34 vs 33.3 dBA)

Load(작업 시): Ryzen AI Halo (41.5 dBA)가 Dell Pro Max GB10 (37 dBA)보다 소음이 다소 높음.

​

​

이미지 생성이나 토큰 생성, 그리고 첫 응답 속도 모두 생각보다 엄청나게 큰 차이가 나는데, 기본적으로 라데온 RDNA 3.5보다 블랙웰 아키텍처 기반의 GPU가 하드웨어 자체 성능이 높고 소프트웨어 생태계도 최적화되어 있다는 점을 감안하면 어쩔 수 없는 차이로 보입니다. 그럼에도 일부에서 6배 이상 벌어지는 차이를 보면 조금 저렴하다고 이걸 구매하는 사람이 있을까 하는 의구심이 드는 결과입니다.

​

결국 자신보다 훨씬 저렴한 맥 미니 M4 pro 버전을 경쟁자처럼 묘사한데는 그럴 수밖에 없는 이유가 있었던 것으로 보입니다. 하지만 출시 전 성능이 DGX Spark와 일부 비슷할 것처럼 언급한 부분은 결과를 보니 황당하다는 느낌마져 듭니다. (위의 슬라이드 참조)

​

이전 포스트: https://blog.naver.com/jjy0501/224292454602

​

일단 출시 가격은 3999달러인데, DGX Spark보다 약간 낮은 가격에도 판매량은 많지 않을 것으로 예상됩니다. 고성능 노트북 CPU 대신 AI 전용 칩을 만들어서 대응해야 하지 않았나 하는 생각입니다.

​

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

중등도 코로나 19 환자에서 제한적인 효과만을 확인한 렘데시비르

   현재 렘데시비르는 인공 호흡기 치료가 필요한 환자 등 중증 코로나 19 환자의 치료제로 사용되고 있습니다. 다만 공급이 부족해서 갑자가 중증 코로나 19 환자가 늘어날 경우 수급 문제가 불거질 수밖에 없습니다. 따라서 이를 중등도 코로나 19 환자 (경증이나 무증상은 당연히 치료가 필요없거나 대증 요법 정도) 사용한다는 것은 지금 당장에 급한 연구는 아니지만, 나중에 수급량이 많아지고 가격이 낮아질 때를 생각하면 의미 있는 연구 결과입니다.   렘데시비르 제조사인 길리어드 사이언스의 다아애나 브레이너드 박사 ( Dr. Diana Brainard of Gilead Sciences )는 병원에 입원이 필요했던 중등도 코로나 19 환자 584명을 렘데시비르 5일, 10일 투여 실험군과 위약을 투여한 대조군으로 나눠 임상 경과, 사망 등 중요한 합병증 발생 등에서 차이를 보이는지 조사했습니다. 연구 대상자의 40% 이상은 당뇨 같은 만성 질환이 있었으며 평균 연령은 57세였습니다.   연구 결과 대조군의 2%, 5일 투여군의 2%, 10일 투여군의 1%가 사망했으나 사망자 수가 4명, 3명, 2명 정도로 통계적 차이를 판단하기에는 사망자 수가 적어 결론을 내리기 어려웠습니다. 연구팀은 5일 투여군에서 임상 경과가 다소 호전되는 것을 판단했으나 10일 투여군에서는 통계적 차이를 검증할 수 없었습니다. 결론적으로 말해 중등도 코로나 19 환자에서 렘데시비르 투여는 확실한 임상적 이득이 없었습니다.     5일 투여량만 해도 가격이 3120달러라는 점을 감안할 때 중등도 환자에서 렘데시비르 투여는 설령 공급이 원활하다고 해도 적절한 치료법이 아닌 것으로 판단됩니다. 더구나 지금처럼 공급이 불안해 중증 환자 투여 물량 확보가 아쉬운 상황에서는 말할 것도 없습니다.  이번 연구는 렘데시비르보다 효과가 뛰어나면서 저렴한 차세대 항바이러스 치료제의 필요성을 다시 보여준 것으로 생각됩니다....
댓글 쓰기
자세한 내용 보기

상어 비늘을 흉내낸 항공기 스킨 - 에어로샤크

  (출처: 루프트한자 그룹) ​ ​ 몇년 전 소개드린 바 있는 에어로샤크(AeroSHARK)가 유럽 항공 안전국(EASA)으로부터 에어버스 A330-300에 탑재해도 좋다는 승인을 받아 적용 범위를 확장하게 됐습니다. 상어의 비늘을 모방해서 항력을 낮추는 에어로샤크는 가벼운 필름 형태로 부착해서 항공기의 연료 효율을 높일 수 있습니다. ​ 이전 포스트: https://blog.naver.com/jjy0501/222658782756 ​ 항공기를 잡아당기는 항력 (drag)은 항공기의 연료 소모를 증가시키는 원인 중 하나입니다. 여객기의 알루미늄 합금 동체는 만져보면 매끄럽게 느껴지지만, 사실 표면은 미세하게 거친 상태입니다. 비행기가 시속 890km의 속도로 대기를 뚫고 나아갈 때 얇은 공기층이 동체에 달라붙는데, 표면과 이 공기층 사이에는 약 1밀리미터 두께의 아주 작은 틈이 있습니다. 점성 하층이라고 불리는 이 틈은 소용돌이가 무질서하게 뒤섞인 공기 덩어리입니다. ​ 이 얇은 난류층은 표면 마찰 항력을 발생시킵니다. 이는 전체 공기역학적 항력의 약 50%를 차지하며, 성능과 비행 효율을 떨어뜨리는 요인입니다. 그런데 사실 상어는 수억 년 전부터 기발한 방법으로 물속에서 항력을 낮춰왔습니다. 상어는 작고 이빨처럼 생긴 비늘인 피부치상돌기를 지니고 있습니다. 상어의 몸을 따라 길게 뻗어 있는 이 작은 돌기들은 물이 상어의 몸 위로 흐를 때, 미세한 소용돌이가 피부에 직접 닿지 않도록 막습니다. 이렇게 하면 난류가 억제되어 상어가 빠르고 부드럽게 헤엄칠 수 있게 됩니다. ​ ​ 에어로사크는 자연의 디자인을 모방하여 유사한 효과를 냅니다. 이는 상어 이빨 능선의 기하학적 구조와 높이, 간격을 흉내낸 50마이크로미터 크기의 홈이 새겨진 인공 고분자 필름입니다. 이 얇은 필름을 비행기 동체에 붙으면 비행당 연료 소비량과 배출량을 1% 줄일 수 있으며, 날개와 꼬리날개에도 붙인 경우 최대 2%까지 줄일 수 있습니다. ​ 디스커버 항공은 자사의 에어버스 ...
댓글 쓰기
자세한 내용 보기

벽돌 속에 전기를 저장하는 코팅

  ( Red brick device developed by chemists at Washington University in St. Louis lights up a green light-emitting diode. The photo shows the core-shell architecture of a nanofibrillar PEDOT-coated brick electrode. Credit: D'Arcy laboratory, Department of Chemistry, Washington University in St. Louis )  신재생 에너지 확대와 에너지를 24시간 차질 없이 공급해야 하는 기업과 기관 (예를 들어 병원, 금용기관, 중요 산업 시스템 및 기타 갑자기 시스템을 중지할 수 없는 분야)이 증가함에 따라 에너지 저장 장치 (ESS)의 수요 역시 가파르게 증가하고 있습니다. 특히 풍력과 태양광처럼 에너지 생산량 변동이 심한 에너지원이 보급되면서 값싸고 안전하게 대량의 에너지를 저장할 수 있는 방법의 요구가 커지고 있습니다.   워싱턴 대학 줄리오 다르시 ( Julio D'Arcy ) 교수가 이끄는 연구팀은 평범한 벽돌에 전기를 저장할 수 있는 새로운 방법을 개발했습니다. 연구팀의 접근법은 전기가 통하는 폴리머 소재인  PEDOT를 코팅해 벽돌 자체를 슈퍼 커패시터 (콘덴서)로 만드는 것입니다. 화학 배터리 대신 슈퍼 커패시터에 전기를 저장하는 연구는 일찍부터 있어왔지만, 흔한 벽돌 소재의 슈퍼 커패시터는 참신한 시도라고 할 수 있습니다. 벽돌에 에너지를 저장하려는 시도 역시 이전에도 있었지만, 대개 열을 저장하는 방식이었고 전기 자체를 저장하는 방식은 새로운 시도입니다.   이전 포스트:  https://blog.naver.com/jjy0501/221592595133  연구팀에 따르면 일반적인 크기의 벽돌에 PEDOT 소재를 코팅할 경우 최대 10분 정도 LED 전...
댓글 쓰기
자세한 내용 보기