(출처: AMD)
AMD가 MEXT라는 새로운 메모리 솔루션을 선보였습니다. 간단히 설명하면 AI 기반 스마트 메모리 스왑 기술이라고 할 수 있습니다. 메모리 스왑 (memory swab)은 메모리 부족을 해소하기 위해 SSD나 HDD의 일부를 메모리처럼 사용하는 기술입니다. 하지만 D램과 비교해서 SSD나 HDD는 속도가 매우 느리기 때문에 시스템 속도가 매우 느려지는 일을 피하기 어렵습니다.
하지만 동시에 실제 서버에서는 시스템 메모리가 실제로 사용되지 않은 상태에서 낭비되는 경우가 비일비재합니다. 메모리가 평시 절반 밖에 사용되지 않은 경우도 흔하고 또 작업을 위해 메모리로 로드 된 데이터도 CPU가 바로 사용하는 경우는 일부에 불과한 경우도 많습니다.
MEXT는 이런 콜드 메모리를 낸드 플래시로 보내 대기 상태로 두는 방식으로 서버 메모리를 D램 50% + 낸드 플래시 50%이나 D램 25% + 낸드 플래시 75% 식으로 줄일 수 있습니다. 하지만 낸드 플래시는 저렴하고 전력 소모도 적은 대신 속도가 D램보다 500배 느리다는 단점이 있습니다. 기존의 메모리 스왑 방식과 비슷하게 가상 메모리를 늘리면 속도가 지나치게 희생됩니다.
MEXT는 이 문제를 막기 위해 AI를 활용합니다. 기존의 단순 LRU(Least Recently Used) 방식은
"최근에 사용하지 않았으니 앞으로도 사용하지 않을 것이다." 라는 비교적 단순한 가정에 의존합니다. MEXT는 AI를 통해 CPU가 사용할 부분을 미리 예측해 D램에 올려놓고 그렇지 않은 메모리는 낸드 플래시로 내리는 방식으로 계층화 시킵니다.
이를 위해 Linux 운영 체제에서 작동하는 경량의 저부하 커널 모듈 + AI 모델 앙상블(트랜스포머 기반 LLM 포함) + RAM View (실시간 메모리 사용률을 보여주는 관찰 가능 플랫폼)의 세 가지 구성 요소가 필요하며 기존의 메모리 스왑 기능을 꺼야 제대로 작동합니다.
AMD는 MEXT를 이용해 1/2에서 1/4의 D램 만을 사용해도 거의 비슷한 성능을 낼 수 있을 것으로 기대하고 있습니다. 구체적으로 마이크로소프트 애저에서 사용했을 때 50% D램으로도 95%의 성능을 확보해 성능 대 비용을 1.9배 정도 높였고 에이전틱 작업에서 D램 25% 설정으로 5개 에이전트를 구성할 때 3.4배의 성능을 확보했다고 발표했습니다.
다만 원리상 SSD를 끊임없이 읽게 되므로 아무리 서버 SSD라도 고성능 버전이 필요할 수 있으며 낸드 플래시 수명에도 영향을 줄 가능성이 있습니다. 물론 AMD 주장처럼 실제 체감 성능이 D램 시스템과 거의 비슷한지도 검증이 필요한 대목입니다.
그리고 아마도 소비자용 PC에 적용될 가능성은 현재로써는 낮아 보입니다. 소비자용 SSD는 서버용 SSD처럼 빠르거나 용량이 크지 않기 때문에 이런 목적으로 사용하기에는 적합하지 않습니다. 더구나 AI를 위해 코어와 메모리를 할당하는 것 자체가 사실상 얼마 안되는 자원을 낭비하는 결과를 가져올 수 있다는 점에서 큰 이득은 없어 보입니다. 그래도 재미있는 기술이긴 하며 앞으로 더 스마트한 메모리 스왑 기술을 확산시키는 계기가 되어 언젠가는 일반 사용자들도 체감할 수 있는 새로운 옵션이 될 가능성을 기대해 봅니다.
참고
https://wccftech.com/amd-mext-memory-solution-flash-repaces-dram-same-performance/
댓글
댓글 쓰기