기본 콘텐츠로 건너뛰기

차세대 AI 스토리지 - HBF 메모리에 승부 건 샌디스크




 (출처 : 샌디스크)

​

​

AI 연산에서 중요한 것은 대용량의 데이터를 빠르게 불러오는 일입니다. 현재의 낸드 플래시 스토리지 (SSD 같은)는 CPU와 GPU와 멀리 떨어져 있어 대규모 AI 데이터 처리에 사실 적합한 형태가 아닙니다. 스토리지 전문 제조사인 샌디스크는 이 병목 문제를 해소하기 위해 2025년부터 고대역폭 플래시 (High Bandwidth Flash (HBF)) 기술에 투자하고 있습니다. SK 하이닉스 역시 HBF에 관심이 있어 샌디스크와 협력 중입니다.

​

이전 포스트: https://blog.naver.com/jjy0501/223760693153

​

https://blog.naver.com/jjy0501/224057373483

​

HBF는 HBM과 유사한 스택킹 아키텍처를 낸드 플래시 메모리에 적용한 기술이라고 할 수 있습니다. HBM이 D램을 여러 층으로 쌓아(Stacking) TSV(Through Silicon Vias)로 연결한 것과 달리 HBF는 플래시 메모리를 TSV로 쌓아 적층한 구조입니다. HBM이 현재 스택당 32~64GB 정도의 용량을 지닌 데 비해 HBF의 목표 용량은 최대 4TB 수준으로 매우 높기 때문에 대규모 데이터 학습 및 추론에 적합합니다.

​

다만 기본적으로 낸드 플래시 메모리는 비휘발성인 대신 D램과 비교해서 속도가 느리고 지연 시간이 길다는 문제점이 있었습니다. HBF는 이러한 낸드 플래시 메모리의 단점을 스택킹과 고대역폭 인터페이스로 보완합니다. 특히 핵심은 샌디스크의 최근 특허 (US 12,430,274 B2)에 있습니다. 이 특허는 단순한 적층을 넘어 Compute(연산)와 낸드 다이를 하나의 칩/패키지에 통합하는 방법입니다. (사진 참조)

​

궁극적으로 CBA (CMOS Bonded Array) 기술을 통해 낸드 메모리 타일과 CMOS 로직 회로 타일을 결합하고 3D 적층으로 이 타일을 컴퓨트 타일 (GPU 또는 AI 가속기) 바로 아래/위에 직접 3D 적층하는 것이 목표입니다. 그리고 인터포저에 HBM 메모리 역시 함께 배치하는 하이브리드 구성 역시 가능합니다. 이 경우 즉각적인 고속 메모리 작업에는 HBM 메모리가 대용량 데이터 저장과 데이터셋 처리에는 HBF가 함께 작동해 성능을 높이면서도 비용과 전력 소모를 줄인다는 것입니다.

​



(미국 특허)

​

다만 초기에는 HBM처럼 인터포저를 이용해 HBF 메모리를 옆에 붙여 사용하다가 프로세서 위로 올릴 가능성이 높은데, 발열 제어라는 또 다른 문제가 있기 때문에 실제로 GPU 위에 HBF를 올리기는 쉽지 않을 수 있다는 게 개인적 생각입니다.

​

HBF는 아직 초기 연구 단계로 실제로 작동하는 샘플도 공개된 적이 없습니다. 앞으로 실제 작동하는 샘플이나 시제품, 그리고 구체적인 로드맵이 공개될 수 있을지 주목됩니다.

​

​

참고

​

https://wccftech.com/sandisk-bets-on-stacking-nand-and-compute-on-one-chip/

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) )  앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는  미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기   이전 포스트:  https://blog.naver.com/jjy0501/221115245986  (동영상)   V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다.   참고  https://newatlas.com/bell-v-280-valor-maiden-flight/52663/
댓글 쓰기
자세한 내용 보기

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...
댓글 쓰기
자세한 내용 보기

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...
댓글 쓰기
자세한 내용 보기