기본 콘텐츠로 건너뛰기

테슬라 옵티머스 로봇 AI 메모리 사용량 절반으로 줄였다?


 (출처: 테슬라)

​

​

최근 마이크론 CEO인 산자이 메로트라 (Sanjay Mehrotra)는 9월 30일 실적 발표에서 자율주행차와 유사한 수준으로 인간형 로봇 1대당 200GB 이상 D 램과 수 TB 낸드 플래시 메모리가 필요하며, Physical AI가 결국 앞으로 메모리·스토리지 수요의 주요 동력이 될 수 있다고 설명했습니다. 이는 현재의 AI 붐 이후 실적 하락을 우려하는 시선에 대해 투자자들에게 미래 실적에 대한 자신감을 보여준 것으로 풀이됩니다.

​

그런데 테슬라의 일론 머스크는 바로 이에 대해서 반박하는 듯한 글을 올렸습니다. 일론 머스크는 테슬라의 AI5 및 AI6 칩의 대량 생산을 확보하기 위해 해당 칩의 메모리 용량을 대폭 하향 조정한다고 발표했습니다. 그에 따르면 AI5는 절반 정도인 72GB의 LPDDR5로 줄이고 AI6는 144GB의 LPDDR6로 용량이 약 3분의 1 정도 감소할 예정입니다.

​

테슬라는 AI5 및 AI6 칩을 자사의 FSD(완전 자율 주행) 기반 컴퓨팅 스택과 옵티머스 휴머노이드 로봇에 탑재할 계획입니다. 2027년 양산 예정인 AI5 칩은 하프 레티클 (half-reticle, 약 430mm² 수준)의 대형 메인 다이와 주변에 12개의 DRAM 모듈이 배치되어 있습니다. 이 칩은 TSMC와 삼성에서 2nm 공정으로 생산될 예정이며, 2000~2500 TOPS의 성능을 제공합니다.

​

머스크의 주장에 의하면 단일 칩 버전은 AI5는 NVIDIA H100 GPU와 거의 동등한 수준이며, 듀얼 칩 구성은 블랙웰과 경쟁할 수 있습니다. 그러면서도 비용을 절감하기 위해 고가의 HBM 메모리 대신 LPPDR5를 사용했는데, 그 비결은 빠른 온칩 SRAM을 적극 도입한 덕분입니다.

​

대신 SRAM은 용량이 작을 수밖에 없고 144GB 대신 72GB LPDDR5 메모리를 적용하면 용량은 더 작아질 수밖에 없지만, 양자화와 최적화를 통해 모델 크기를 줄여 크고 똑똑한 모델보다 작고 빠른 전용 모델을 사용한 것이 주된 비결로 생각됩니다. 참고로 이 칩의 시험 생산은 이미 텍사스에 있는 삼성 테일러 공장에서 진행 중이며, 양산은 2027년에 시작될 예정입니다.

​

물론 일론 머스크의 일방적인 발표이기 때문에 자율 주행차 및 옵티머스 로봇에 탑재될 AI5 칩의 성능에 대해서는 아직은 알 수 없습니다. 하지만 공급 병목과 높은 비용 증가가 이어지는 만큼 연산 자원을 아끼기 위해 여러가지 방법을 동원하는 중국 AI 모델처럼 미국 내 기업들 역시 더 효율적인 모델과 아키텍처 개발에 나설 것이라는 점은 합리적인 추정이라고 할 수 있습니다.

​

​

참고

​

​

https://wccftech.com/elon-musk-slashes-memory-requirements-for-teslas-ai5-chip-by-half-to-72-gb-and-ai6-by-a-third-to-144-gb-but-says-the-performance-of-optimus-wont-be-affected/

댓글

이 블로그의 인기 게시물

중등도 코로나 19 환자에서 제한적인 효과만을 확인한 렘데시비르

   현재 렘데시비르는 인공 호흡기 치료가 필요한 환자 등 중증 코로나 19 환자의 치료제로 사용되고 있습니다. 다만 공급이 부족해서 갑자가 중증 코로나 19 환자가 늘어날 경우 수급 문제가 불거질 수밖에 없습니다. 따라서 이를 중등도 코로나 19 환자 (경증이나 무증상은 당연히 치료가 필요없거나 대증 요법 정도) 사용한다는 것은 지금 당장에 급한 연구는 아니지만, 나중에 수급량이 많아지고 가격이 낮아질 때를 생각하면 의미 있는 연구 결과입니다.   렘데시비르 제조사인 길리어드 사이언스의 다아애나 브레이너드 박사 ( Dr. Diana Brainard of Gilead Sciences )는 병원에 입원이 필요했던 중등도 코로나 19 환자 584명을 렘데시비르 5일, 10일 투여 실험군과 위약을 투여한 대조군으로 나눠 임상 경과, 사망 등 중요한 합병증 발생 등에서 차이를 보이는지 조사했습니다. 연구 대상자의 40% 이상은 당뇨 같은 만성 질환이 있었으며 평균 연령은 57세였습니다.   연구 결과 대조군의 2%, 5일 투여군의 2%, 10일 투여군의 1%가 사망했으나 사망자 수가 4명, 3명, 2명 정도로 통계적 차이를 판단하기에는 사망자 수가 적어 결론을 내리기 어려웠습니다. 연구팀은 5일 투여군에서 임상 경과가 다소 호전되는 것을 판단했으나 10일 투여군에서는 통계적 차이를 검증할 수 없었습니다. 결론적으로 말해 중등도 코로나 19 환자에서 렘데시비르 투여는 확실한 임상적 이득이 없었습니다.     5일 투여량만 해도 가격이 3120달러라는 점을 감안할 때 중등도 환자에서 렘데시비르 투여는 설령 공급이 원활하다고 해도 적절한 치료법이 아닌 것으로 판단됩니다. 더구나 지금처럼 공급이 불안해 중증 환자 투여 물량 확보가 아쉬운 상황에서는 말할 것도 없습니다.  이번 연구는 렘데시비르보다 효과가 뛰어나면서 저렴한 차세대 항바이러스 치료제의 필요성을 다시 보여준 것으로 생각됩니다....

178Tb/s - 광섬유 통신 신기록 수립

  ( Lidia Galdino, lead researcher on the study. Credit: James Tye / UCL )  현재 가정에 들어오는 초고속 광통신은 10Gb/s 정도가 가장 빠른 편입니다. 그러나 사실 광섬유를 통해서 보낼 수 있는 정보량은 이것보다 훨씬 많습니다. 현재 개발 중인 기술 가운데서는 이미 1Tb/s 이상이 속도를 지닌 것들이 많아 미래에는 테라 인터넷 시대가 가능할 것으로 예상됩니다. 그런 가운데 영국 유니버시티 칼리지 런던 (UCL)의 리디아 갈디노( Lidia Galdino )가 이끄는 연구팀이 178Tb/s라는 신기록을 세웠다는 소식입니다.   광섬유 통신을 위한 주파수는 4.5THz까지 높일 수 있습니다. 최근에 개발된 신기술은 9THz 벽도 돌파했습니다. 그러나 연구팀은 16.8THz라는 새로운 영역에 도달했습니다. 주파수가 높을 수록 더 많은 정보를 전송할 수 있습니다. 하지만 16.8THz의 주파수로도 178Tb/s의 데이터 전송 속도는 사실 불가능합니다. 연구팀은  Geometric Shaping (GS) 방식으로 레이저 신호의 페이즈, 밝기, 편광 수준을 조절해 여러 신호가 서로 간섭 없이 전달되게 만들어 이런 신기록을 수립했습니다.   물론 새로운 기술이 항상 그렇듯이 바로 상용화가 가능한 것은 아닙니다. 특히 광섬유는 장거리 정보 전송이 가능해야 할 뿐 아니라 오류 없이 장시간 작동이 가능해야 합니다. 자꾸 에러가 생기거나 고장난다면 아무리 속도가 빨라도 무용지물입니다. 이 단계를 극복하고 경제성까지 갖춰 실용화 되는 경우는 사실 소수에 지나지 않습니다.   하지만 경쟁적으로 Tb 급 대역폭을 지닌 광통신 기술이 개발되고 있어 테라바이트 급 정보도 순식간에 전송할 수 있는 시대가 올 것은 분명합니다. 과거 전화선을 이용한 56K 모뎀에서 지금의 광섬유 기반 초고속 인터넷이 온 것처럼 속도는 계속 빨라질 수밖에 없기 때문입니다...

산호초를 복원하기 위한 3D 프린팅 클레이 타일

  (Credit:  University of Hong Kong)  전 세계적으로 산호초는 심각한 위기 상황에 직면했습니다. 수온 상승과 해양 산성화로 인해 세계 각국이 산호초를 보호하고 있음에도 불구하고 백화 현상이 발생하며 산호초가 황폐화되고 있기 때문입니다. 앞서 소개한 것처럼 많은 과학자들이 이 문제를 해결하기 위해 다양한 아이디어를 내놓고 있습니다. 산호가 빨리 자라서 산호초를 복구할 수 있게 만드는 인공 지지대와 골격 역시 그 중 하나입니다.   홍콩 대학의 연구팀은 3D 프린터를 이용해서 만든 클레이 (clay) 타일인 리프 타일 (reef tile)을 공개했습니다. 산호가 부착해서 자라기 쉬운 패턴을 클레이로 출력한 후 이를 섭씨 1125도에서 구워 독특한 문양을 지닌 육각형 타일을 만든 것입니다. 각 타일의 크기는 지름 60cm이며 총 128개의 타일이 홍콩에 있는 호이 화 완 해양 공원 (Hoi Ha Wan Marine Park)에 설치될 예정입니다.   연구팀은 산호를 조각낸 후 이를 타일에 옮겨 심는 방식으로 3종의 산호를 테스트해 이 방법이 실제로 산호초를 빠르게 회복하는 데 도움이 되는지 검증할 것입니다. 연구팀에 따르면 강철이나 콘크리트 골격을 사용하는 것보다 클레이 타일이 주변 환경에 오염이 적고 산호에도 독성이 덜하다고 합니다. 또 3D 프린터를 이용해 만든 3차원 패턴이 산호가 제대로 붙어 자라는 데 도움이 될 것으로 기대하고 있습니다.   아이디어는 그럴 듯해 보이는데, 과연 그럴 듯한 결과가 나올지 궁금합니다.   참고  https://newatlas.com/environment/clay-reef-tiles/