기본 콘텐츠로 건너뛰기

마이크로소프트 코파일럿 AI를 위해서는 40TOPS 이상의 NPU가 필요



 (출처: 인텔)

인텔이 타이페이에서 열린 AI 서밋에서 마이크로소프트의 코파일럿을 클라우드가 아닌 기기 자체에서 로컬로 구동하기 위해 적어도 40TOPS의 이상의 성능을 지닌 NPU가 필요하다는 사실을 밝혔습니다. 인텔 소비자 컴퓨팅 그룹 부사장인 토드 레웰렌 (Todd Lewellen, the Vice President of Intel's Client Computing Group)에 따르면 다음 세대 인텔 CPU는 이 기준을 충족시킬 것이라고 합니다.

현재 나와 있는 소비자용 x86 CPU는 모두 이 기준을 충족시키지 못합니다. 인텔의 메테오 레이크는 10TOPS의 성능을 지니고 있고 AMD의 호크 포인트 역시 16TOPS의 정도의 성능을 지니고 있어 지금처럼 클라우드에서 AI 서비스를 받아야만 합니다. 올해 하반기에 등장할 스냅드래곤의 X 엘리트 정도만 45TOPS의 성능을 지니고 있지만, 대중적으로 사용될 프로세서는 아닐 것으로 생각됩니다.

아무튼 인텔이 차세대 CPU에서 40TOPS의 기준을 충족시킬 것이라고 말한 점으로 봐서 ('we're going to go to the next-gen AI PC with a 40 TOPS requirement in the NPU') 루나 레이크에서 40TOPS NPU를 탑재할 가능성이 점쳐집니다. AMD 역시 Zen 5 코어와 함께 더 강력한 NPU를 들고 나올 가능성이 높아 앞으로 CPU와 내장 GPU에 이어 NPU에서도 경쟁이 격화될 것으로 예상됩니다.

다만 당장에 소비자에게 체감되는 부분은 크지 않을 것 같다는 생각입니다. 그러나 점점 AI 서비스가 확산되고 나중에는 필수적인 부분으로 자리잡을 수도 있기 때문에 기왕이면 조금 기다렸다가 구매하는 소비자도 나올 것 같습니다. 아무래도 클라우드 기반으로 하는 것보다 기기에서 바로 하는 것이 시간이 빠르고 개인 정보 유출 등의 위험도 적기 때문입니다. 또 오프라인에서도 서비스를 이용할 수 있다는 장점도 있습니다.

한 가지 의문점은 꼭 CPU에 있는 NPU를 사용해야 하냐는 것입니다. 고성능 GPU를 지닌 경우 이를 활용하는 것이 소비자에게 추가 비용을 지불하지 않게 하는 좋은 대안이 될 수 있습니다. 물론 인텔은 GPU 시장에서 존재가 미미하기 때문에 이 옵션에 집중하지 않겠지만, AI 서비스가 활성화되면 아마도 GPU를 여기에 사용하는 방안도 나오지 않을까 생각해봅니다.

참고

https://www.tomshardware.com/pc-components/cpus/intel-confirms-microsoft-copilot-will-soon-run-locally-on-pcs-next-gen-ai-pcs-require-40-tops-of-npu-performance

댓글

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) )  앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는  미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기   이전 포스트:  https://blog.naver.com/jjy0501/221115245986  (동영상)   V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다.   참고  https://newatlas.com/bell-v-280-valor-maiden-flight/52663/

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...