HyperAccel Tech Blog · 2026. 04. 23.

[메모리 이해하기 - Part 01] HBF 이해하기

AI 엔지니어링 브리핑

HBF는 대용량이지만 느린 NAND 플래시에 HBM의 적층·근접 배치 기술을 적용해, HBM과 SSD 사이의 메모리 공백을 메우려는 기술입니다.

문제 & 배경

문제 & 배경: SRAM·DRAM·HBM·SSD는 속도·용량·비용 사이의 균형이 달라 여러 계층으로 나뉘며, 특히 HBM은 빠르지만 용량이 부족하고 SSD는 크고 저렴하지만 너무 느려 대형 AI 모델을 처리할 중간 단계가 비어 있었습니다.

기술 & 해결책

기술 & 해결책: HBF는 NAND를 TSV로 쌓아 GPU 가까이에 배치하고, CBA 구조로 수많은 저장 영역을 동시에 읽도록 해 NAND의 큰 용량은 유지하면서 HBM에 가까운 높은 읽기 대역폭을 확보합니다.

교훈 & 주의점

교훈 & 주의점: HBF는 모델 가중치를 반복해서 읽는 AI 추론에는 유망하지만 지연시간이 HBM보다 훨씬 길고 쓰기 속도와 수명에도 한계가 있으므로, 학습용이나 HBM의 완전한 대체재로 보아서는 안 됩니다.

내용이 비슷해요

내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.