(출처: 구글)
구글은 인공지능 연산에 특화된 자체 프로세서인 TPU (Tensor Processing Unit)을 개발했습니다. 작년에 이미 2세대 TPU를 공개한 구글은 이를 기반으로 한 클라우드 서비스에 대해서도 언급했다고 합니다. 그리고 이번 주에 구글은 클라우드 기반 TPU 서비스인 Cloud TPU의 베타 서비스를 시작한다고 발표했습니다.
TPUv2 프로세서는 듀얼 코어 디자인으로 한 개의 코어 당 128x128 mixed multiply unit (MXU)를 지녀 45TFLOPS의 연산을 수행할 수 있다고 합니다. 아마도 이는 인공지능 관련 연산을 의미할 것입니다. 각각의 프로세서는 8GB HBM 메모리 두 개와 연결되어 프로세서 당 16GB의 용량과 600GB/s의 대역폭을 지니고 있습니다. 그리고 노드 당 4개의 프로세서를 지녀 노드 당 180 TFLOPS의 연산 기능을 지니고 있습니다.
구글은 이를 64개 연결한 포드를 이용해 11.5 페타플롭스 연산 능력과 4TB HBM 메모리를 지닌 클라우드 시스템을 구축했습니다. 그리고 이를 통해서 관련 클라우드 서비스를 진행할 것으로 보입니다. 소식을 전한 아난드텍에 의하면 TPU 한 개당 시간당 6.5달러 정도 비용을 받을 것 같다고 하네요. 인공 지능 관련 업무, 예를 들어 신경망을 사용해야 하는 경우 성능을 감안할 때 아주 비싼 비용은 아닐 것입니다.
특히 한국에서는 시스템 구축 비용도 있지만, 전기료가 만만치 않아서 개인 개발자나 연구자라면 집에 컴퓨터 놓고 하는 것보다 더 나은 대안이 될 수 있을 것 같습니다. 그리고 신경망 관련 연구나 업무를 하는 데 항상 사용하는 건 아니라면 시스템을 구축 및 유지 비를 아낄 수 있는 대안처럼 보이기도 하네요. 과연 클라우드와 인공지능을 연계해서 얼마나 성과를 거둘 수 있을지 결과가 주목됩니다.
참고
댓글
댓글 쓰기