(Credit: AMD)
AMD CEO인 리사 수 박사가 국제 반도체 연구 기관 IMEC 혁신상에 선정된 후 IMEC의 ITF 월드 2024 컨퍼런스에서 기조 연설을 진행했습니다. 이 기조 연설에서 AMD가 2020년까지 25배로 에너지 효율을 높이는 계획인 25x20을 확장해 2025년까지 30배로 효율을 높이는 30X25 계획을 성공적으로 진행했으며 앞으로 2026-2027년에는 이보다 훨씬 큰 100배의 에너지 효율 증가를 이뤄낼 수 있을 것이라고 발표했습니다.
물론 CPU만으로 이런 성능 향상을 이루겠다는 것은 아니고 GPU를 이용해 AI 및 병렬 연산에서 성능 향상을 이루겠다는 의미로 본래 계획인 2014년 기준으로 2020년까지 에너지 효율을 25배 늘린다는 것이었습니다. 특히 이 과정에서 칩렛 디자인으로 여러 개의 프로세서와 메모리를 붙이는 현재의 2.5D 및 3D 패키징 방식이 큰 역할을 할 것으로 내다봤습니다.
이전 포스트: https://blog.naver.com/jjy0501/221353394456
솔직히 요즘 CPU는 전기 차력쇼가 기본기이고 그래픽 카드는 케이스가 부담되게 커지고 있지만, 절대 성능이 향상되는 건 사실이라서 전성비는 오히려 좋아지고 있습니다. 특히 최근 AI 연산 쪽으로 특화되면서 그런 쪽으로는 에너지 효율을 급격히 좋아지고 있는 건 사실입니다.
문제는 최근 대규모 언어 모델(LLM) 같은 생성형 AI가 등장하면서 과거와는 비교할 수 없을 정도로 AI 연산 요구가 늘어나고 있다는 것입니다. 그 결과 AI 모델을 학습하는데 수천 개의 GPU와 수만 MWh의 에너지가 소모되고 있습니다. 결국 새로 만들어지는 AI 데이터 센터는 그전보다 더 많은 에너지를 소모하고 있으며 심지어 건설 자체를 발전소와 가까운 위치에 하고 있습니다.
이런 어려움을 극복하기 위해 AMD는 칩렛 디자인으로 계속해서 칩의 크기를 키워 프로세서 하나가 먹는 전기의 양은 늘려도 시스템 전체 전기 소모량은 줄이고 있습니다. 왜냐하면 여러 개의 CPU와 GPU, 그리고 서버를 사용할 경우 이들 사이의 데이터를 전달하는 과정에서 엄청난 에너지가 소모될 뿐 아니라 병목 현상으로 속도가 지연되면서 에너지 효율성은 낮아지기 때문입니다.
전기 먹는 하마라도 일단 CPU와 GPU를 여러 개 모아 놓고 HBM 메모리를 같이 붙여 이동 거리를 최소화하면 에너지 효율은 역설적으로 더 좋아집니다. 예를 들어 AMD의 MI300X의 경우 12개의 칩렛과 24개의 HBM3 메모리를 달아 효율을 극대화했습니다. 물론 이는 인텔이나 엔비디아 같은 다른 제조사에서도 마찬가지입니다.
결국 미세 공정의 한계에 봉착한 프로세서 제조 업계는 앞으로 거대한 칩렛 디자인을 이용해서 더 많은 CPU와 GPU를 하나의 프로세서에 집적하고 여기에 메모리까지 붙여 효율을 높일 것으로 예상됩니다. 궁극적으로는 아마 트랜지스터 1조개에 달하는 초거대 프로세서를 보게 되는 날이 올 것으로 보입니다.
참고
댓글
댓글 쓰기