(Photograph of the CNT TPU packaged on a test printed circuit board. Credit: Nature Electronics (2024). DOI: 10.1038/s41928-024-01211-2)
(Scanning electronic microscope image of a processing unit (PE). Credit: Nature Electronics (2024). DOI: 10.1038/s41928-024-01211-2.)
(Systolic architecture of CNT TPU. Credit: Nature Electronics (2024). DOI: 10.1038/s41928-024-01211-2.)
AI는 이제 거스를 수 없는 시대의 대세가 되고 있지만, 엄청나게 전기를 먹어대는 GPU는 새로운 고민거리가 되고 있습니다. 생성형 AI는 과거 사람이 직접 해야 했던 일을 대신하면서 생산성을 높이는데서 끝나지 않고 새로운 시대 변화를 예고히고 있지만, 동시에 전기 먹는 하마입니다.
중국 베이징 대학이 이끄는 중국 연구팀은 차세대 트랜지스터 소재로 주목받고 있는 탄소 나노튜브 (carbon nanotube, CNT)를 이용한 TPU (tensor processing unit)를 개발했습니다. 연구팀에 따르면 탄소 나노튜브 TPU는 기존의 실리콘 웨이퍼 기반 프로세서보다 에너지 효율이 훨씬 뛰어납니다.
연구팀은 기술적 가능성을 검증하기 위해 일단 180nm 공정 기반의 CNT TPU를 개발했습니다. 트랜지스터는 일반적으로 사용되는 장효과 트랜지스터 (field effect transistors (FETs))로 채널 부분을 CNT로 만든 것입니다. 연구팀이 개발한 수축 어레이 아키텍처 (systolic array architecture)는 이런 CNT 트랜지스터 3000개로 구성되어 있으며 이를 9개 사용한 PE 어레이와 기타 부분을 합쳐 전체 시스템을 구성합니다.
연구팀에 따르면 이 프로세서는 850MHz로 작동하며 와트 당 1TOPS 이상의 성능을 지니고 있습니다. 스마트폰에 들어가는 NPU도 이보다 효율이 월등히 뛰어나긴 하지만, 5nm 이하의 미세 공정을 사용하는 점은 동일 선상에서 비교하긴 어렵습니다. 연구팀에 따르면 CNT TPU는 비슷한 미세 공정을 사용한 AI 가속기 가운데 가장 효율이 우수합니다.
물론 CNT 트랜지스터 기술이 바로 상용화되기는 어렵고 현재는 기술적 우위를 잡으려는 기업들의 경쟁이 치열한 상태로 한동안 전기 먹는 하마인 GPU 도입 경쟁이 이어질 것 같습니다. 다만 장기적으로 보면 에너지 효율을 높일 수 있는 대안을 반드시 마련햐야 할 것입니다.
참고
https://techxplore.com/news/2024-08-tensor-processor-chip-based-carbon.html
Jia Si et al, A carbon-nanotube-based tensor processing unit, Nature Electronics (2024). DOI: 10.1038/s41928-024-01211-2.
댓글
댓글 쓰기