(Printed circuit board used for bring-up and testing of the NorthPole chip. The packaged NorthPole module is interfaced to the board through a socket to permit testing multiple chips (socket lid 5 is not shown). Communication between the NorthPole module and a host computer is mediated by the FPGA and occurs through a ✕8 PCIe edge connector. The FPGA only acts as a PCIe bridge and, in future, this functionality can be implemented on NorthPole. Note that the board has no external memory. Credit: Science (2023). DOI: 10.1126/science.adh1174)
IBM은 CPU를 포함한 프로세서의 설계 및 제조에 큰 족적을 남긴 회사입니다. 지금도 대표적인 IT 기업 중 하나이지만, CPU 부분에서 인텔과 AMD, 인공지능 프로세서 부분에서는 엔비디아에 밀려 과거보다 중요도가 떨어지고 있으며 반도체 제조 기술 부분 역시 팹리스 기업으로 전환하면서 이제는 그 영향력이 작아졌습니다.
하지만 그렇다고 해서 IBM 연구소가 프로세서 개발을 포기한 것은 아닙니다. 최근 캘리포니아 대학 및 IBM 리서치팀은 저널 사이언스에 새로운 AI 기반 이미지 인식 프로세서인 노스폴 (NorthPole) 칩을 공개했습니다.
노스폴은 기존의 GPU와 달리 뉴런에 영감을 받은 시스템으로 기존의 GPU보다 훨씬 낮은 전력 소모와 복잡도로 이미지 분류 네트워크 벤치마크인 ResMet 50에서 높은 점수를 받았습니다. 이를 검증한 캘리포니아 팀에 따르면 노스폴은 GPU보다 22배나 빠르게 이미지를 분류했으며 전력 소모 면에서 25배, 면적 면에서 5배나 더 우수한 것으로 나타났습니다.
다만 범용 인공지능과 달리 노스폴은 이미지 분류에만 최적화되어 있어 ChatGPT처럼 최근 주목받는 대규모 언어 모델을 구동할 수 없습니다. 연구팀은 이 한계를 극복하기 위해서 연구를 계속하고 있습니다. IBM이 다시 한 번 모두를 깜짝 놀라게 할 만한 결과물을 들고 나올지 궁금합니다.
참고
https://techxplore.com/news/2023-10-ibm-northpole-chip-ai-based-image.html
Dharmendra S. Modha et al, Neural inference at the frontier of energy, space, and time, Science (2023). DOI: 10.1126/science.adh1174
Subramanian S. Iyer et al, AI computing reaches for the edge, Science (2023). DOI: 10.1126/science.adk6874
댓글
댓글 쓰기