SK하이닉스·샌디스크, HBF 규격 공개…AI 추론 메모리 최대 512GB

SK하이닉스와 샌디스크가 AI 추론 환경을 겨냥한 차세대 메모리 기술 HBF(High Bandwidth Flash)의 첫 표준 규격을 공개했다.

HBF는 낸드플래시를 기반으로 높은 용량과 대역폭을 동시에 확보하려는 기술이다. 기존 고대역폭메모리 HBM과 대용량 저장장치 SSD 사이에 새로운 메모리 계층을 추가해, AI 서버가 처리해야 하는 대규모 데이터를 보다 효율적으로 공급하는 것이 목표다.

이번에 공개된 규격에서는 최대 512GB 용량과 초당 최대 3TB 수준의 대역폭이 제시됐다.

하지만 이번 발표에서 숫자보다 더 중요한 부분은 HBF 제품 하나가 출시됐다는 것이 아니라 여러 반도체와 서버 업체가 같은 기준을 토대로 제품을 개발할 수 있는 공통 규격이 처음 마련됐다는 점이다.

AI 추론 시장이 확대되면서 메모리 용량과 전력 소비가 새로운 병목으로 떠오르는 가운데 HBF가 실제 HBM과 SSD 사이의 새로운 시장을 만들 수 있을지가 앞으로의 관전 포인트다.

HBF 최대 용량 512GB, 대역폭은 최대 3TB/s

SK하이닉스와 샌디스크가 공개한 첫 HBF 규격은 낸드플래시 다이를 8단과 16단으로 적층하는 방식을 지원한다.

최대 용량은 512GB이며 대역폭은 시스템에서 요구하는 성능에 따라 세 가지 등급으로 나뉜다.

가장 낮은 등급은 초당 약 0.4TB이며 최고 등급에서는 초당 최대 3.0TB의 데이터 전송을 목표로 한다.

구분	HBF 공개 규격
주요 활용 분야	AI 추론 시스템
기반 메모리	NAND Flash
적층 방식	8단·16단
최대 용량	512GB
대역폭	약 0.4~3.0TB/s
대역폭 등급	Grade 1~3
프로세서 연결	UCIe
표준화	OCP 기반 개방형 규격

규격에는 단순한 용량과 속도뿐 아니라 HBF와 프로세서를 연결하기 위한 인터페이스, 전기적 특성, 적층 패키지의 신뢰성 기준과 소프트웨어의 읽기·쓰기 방식 등에 대한 지침도 포함됐다.

이는 앞으로 여러 기업이 HBF를 개발할 때 서로 다른 방식으로 제품을 만드는 것을 줄이고 공통된 기준 안에서 제품과 시스템을 설계할 수 있도록 하기 위한 것이다.

HBF는 HBM을 대체하는 메모리가 아니다

HBF라는 이름 때문에 HBM의 차세대 제품처럼 생각하기 쉽지만 두 기술의 역할은 조금 다르다.

HBM은 D램을 여러 층으로 쌓아 GPU와 같은 연산장치 가까이에 배치하는 고성능 메모리다. 매우 빠른 데이터 전송이 가능하다는 것이 장점이지만 D램을 사용하기 때문에 대용량으로 확장할수록 비용 부담도 커질 수 있다.

SSD는 낸드플래시를 사용해 훨씬 큰 용량을 상대적으로 저렴하게 제공할 수 있다. 하지만 연산장치에 데이터를 빠르게 공급해야 하는 환경에서는 HBM과 상당한 성능 차이가 있다.

HBF가 겨냥하는 것은 바로 이 중간 영역이다.

AI 서버에서 가장 자주 사용하는 데이터는 HBM에 두고, HBM에 전부 저장하기에는 용량이 너무 크지만 SSD에서 불러오기에는 속도가 부족한 데이터를 HBF에 배치하는 방식이다.

사용 빈도가 더 낮고 대규모 저장이 필요한 데이터는 SSD가 담당한다.

결국 HBM, HBF, SSD 가운데 하나만 사용하는 것이 아니라 데이터의 중요도와 접근 빈도에 따라 서로 다른 메모리를 배치하는 계층형 구조를 만드는 것이다.

AI 추론이 커질수록 메모리 용량 문제가 중요해진다

최근 AI 산업에서는 모델을 만드는 학습뿐 아니라 완성된 모델을 실제 서비스에 사용하는 추론의 중요성이 빠르게 커지고 있다.

AI 학습은 대규모 데이터를 이용해 모델 자체를 만들어가는 과정이다.

추론은 이미 만들어진 모델을 이용해 사용자의 질문에 답하거나 이미지를 생성하고 검색 결과를 분석하는 실제 서비스 단계다.

사용자가 생성형 AI에 질문할 때마다 모델은 수많은 가중치와 데이터를 메모리에서 불러와 계산해야 한다.

특히 모델 규모가 커지고 한 번에 처리해야 하는 문맥의 길이가 증가하면 연산장치 자체의 성능만 높이는 것으로는 부족해질 수 있다.

GPU가 아무리 빠르게 계산할 수 있어도 필요한 데이터를 충분한 속도로 전달하지 못하면 연산장치가 데이터를 기다리는 시간이 발생하기 때문이다.

이를 흔히 메모리 병목 또는 메모리 월이라고 표현한다.

AI 시장이 커질수록 GPU 성능뿐 아니라 데이터를 어디에 얼마나 저장하고 어떤 속도로 GPU에 전달할 것인지가 시스템 전체의 성능과 비용을 결정하는 중요한 요소가 되는 이유다.

512GB라는 용량이 중요한 이유

HBF가 제시한 최대 512GB라는 용량은 HBM보다 훨씬 많은 데이터를 연산장치 가까이에 배치하기 위한 방향을 보여준다.

대형 AI 모델에서는 모델 자체의 가중치뿐 아니라 사용자가 이전에 입력한 문맥과 생성 과정에서 사용하는 데이터도 메모리 공간을 차지한다.

AI 서비스를 동시에 이용하는 사용자가 증가하면 필요한 메모리도 함께 늘어난다.

이 과정에서 모든 데이터를 고가의 HBM에 넣는 방식은 성능 면에서는 유리할 수 있지만 비용과 용량 측면에서는 한계가 생길 수 있다.

반대로 데이터를 SSD로 보내면 용량은 충분하지만 데이터 접근 시간이 길어질 수 있다.

HBF가 실제 제품에서도 규격에서 목표로 한 성능을 구현한다면 대용량 데이터를 HBM보다 낮은 비용의 영역에 배치하면서 SSD보다 빠르게 공급할 수 있는 선택지가 생기는 셈이다.

따라서 HBF의 경쟁력은 HBM보다 빠르냐 느리냐로 판단하기보다 일정한 AI 추론 성능을 구현하는 데 필요한 메모리 비용과 전력을 얼마나 줄일 수 있는지를 기준으로 판단하는 것이 적절하다.

UCIe를 적용한 이유

HBF와 CPU·GPU 등 프로세서를 연결하는 인터페이스에는 UCIe가 채택됐다.

UCIe는 서로 다른 기능의 반도체 칩을 하나의 패키지 안에서 고속으로 연결하기 위한 개방형 인터페이스 규격이다.

최근 반도체 산업에서는 하나의 거대한 칩에 모든 기능을 넣는 방식뿐 아니라 연산, 메모리, 입출력 등의 기능을 여러 칩렛으로 나눈 뒤 다시 하나의 패키지 안에서 연결하는 구조가 확대되고 있다.

HBF가 UCIe를 사용한다는 것은 특정 프로세서 업체의 독자적인 연결 방식에만 의존하지 않고 다양한 CPU와 GPU, AI 가속기에 HBF를 결합할 수 있는 기반을 마련하려는 의미가 있다.

이는 HBF가 하나의 메모리 회사만 사용하는 독자 기술보다 산업 전체에서 활용할 수 있는 메모리 계층으로 성장하기 위해 중요한 부분이다.

다만 UCIe 규격을 사용한다고 해서 모든 프로세서에서 곧바로 HBF를 사용할 수 있다는 뜻은 아니다.

실제 제품에서는 프로세서와 메모리 컨트롤러, 펌웨어, 운영 소프트웨어까지 함께 최적화해야 한다.

구글과 텐스토렌트가 표준화에 참여한 이유

HBF 표준화 과정에는 SK하이닉스와 샌디스크뿐 아니라 구글과 AI 반도체 기업 텐스토렌트도 참여했다.

이 부분은 HBF 시장의 향후 가능성을 판단할 때 주목할 만하다.

메모리 제조사만 새로운 규격을 만든다면 실제 서버와 AI 시스템에서 필요한 요구사항을 충분히 반영하기 어려울 수 있다.

반면 AI 서비스를 운영하는 기업과 AI 가속기를 설계하는 회사가 초기부터 참여하면 실제 시스템이 필요로 하는 용량과 대역폭, 인터페이스 등의 조건을 규격 설계 단계에서 반영하기 쉬워진다.

특히 HBF는 단독으로 사용하는 저장장치가 아니라 CPU나 GPU 등 연산장치 주변에서 사용되는 메모리이기 때문에 시스템 업체와의 협력이 중요하다.

결국 앞으로 HBF의 성공 여부는 SK하이닉스와 샌디스크가 제품을 만드는 것만으로 결정되지 않는다.

GPU와 AI 가속기 제조사, 서버 업체, 클라우드 사업자가 실제 제품에 HBF를 적용해야 시장이 만들어질 수 있다.

개방형 표준이 중요한 이유

SK하이닉스와 샌디스크는 HBF 규격을 OCP(Open Compute Project)를 통해 공개했다.

OCP는 데이터센터와 서버 등 컴퓨팅 인프라 기술을 개방형 방식으로 개발하기 위한 글로벌 협력 프로젝트다.

새로운 메모리 기술이 시장에 자리 잡으려면 제품 자체의 성능뿐 아니라 여러 제조사가 같은 규격을 사용할 수 있는지도 중요하다.

특정 회사만 제품을 공급할 수 있는 독자 규격이라면 서버 업체 입장에서는 공급망과 가격 측면에서 부담이 생길 수 있다.

반대로 여러 제조사가 같은 규격으로 제품을 생산할 수 있다면 시스템 업체가 특정 회사에 지나치게 의존하지 않고 공급업체를 선택할 수 있다.

HBF 역시 장기적으로 시장을 확대하려면 SK하이닉스와 샌디스크 이외의 낸드 제조사와 반도체 업체가 참여하는 생태계가 필요하다.

따라서 이번 첫 규격 공개는 완성된 시장이 만들어졌다는 의미보다 HBF 시장을 만들기 위한 공통 설계도가 처음 공개됐다고 보는 편이 적절하다.

HBF가 AI 서버 비용을 낮출 수 있을까

AI 데이터센터의 비용 가운데 메모리가 차지하는 비중은 점점 중요해지고 있다.

특히 고성능 HBM은 AI 가속기의 성능을 끌어올리는 핵심 부품이지만 높은 가격과 제한된 용량은 시스템 설계에서 부담이 될 수 있다.

HBF는 상대적으로 용량 확장에 유리한 낸드플래시를 사용한다.

따라서 반드시 최고 속도가 필요하지 않은 데이터를 HBF로 이동할 수 있다면 모든 데이터를 HBM에 저장하는 것보다 시스템 비용을 낮출 가능성이 있다.

전력 측면에서도 비슷한 논리가 적용될 수 있다.

AI 데이터센터에서는 GPU의 연산 성능만큼이나 전력 사용량이 중요한 문제가 되고 있다.

메모리 계층을 효율적으로 구성해 불필요한 데이터 이동을 줄일 수 있다면 전체 시스템의 전력 효율과 AI 서비스 처리 비용을 낮추는 데 도움이 될 수 있다.

최근 AI 업계에서 말하는 토큰 경제성도 이와 관련이 있다.

사용자에게 AI 답변을 생성하기 위해 들어가는 서버와 전력, 메모리 비용을 줄일수록 같은 데이터센터에서 더 많은 요청을 처리할 수 있기 때문이다.

최고 3TB/s라는 숫자만 보면 안 되는 이유

HBF 규격에서 가장 눈에 띄는 숫자 중 하나가 초당 최대 3TB의 대역폭이다.

하지만 이 숫자만으로 HBM과 직접적인 성능 경쟁을 판단하는 것은 적절하지 않다.

메모리의 실제 성능은 대역폭뿐 아니라 지연시간과 읽기·쓰기 방식, 데이터 접근 패턴, 전력 소비 등 여러 요소에 의해 결정된다.

특히 HBF는 낸드플래시 기반이기 때문에 D램 기반 HBM과 기본적인 메모리 특성이 다르다.

따라서 최대 대역폭이 높다는 이유만으로 HBM과 동일한 역할을 수행할 수 있다고 판단해서는 안 된다.

오히려 HBF의 실질적인 경쟁력은 HBM보다 훨씬 큰 용량을 어느 정도의 속도와 비용으로 제공할 수 있는지에 있다.

상용 제품이 등장하면 최고 대역폭보다 실제 AI 추론 환경에서 응답 속도와 처리량이 얼마나 개선되는지를 확인하는 것이 더 중요하다.

HBF가 SK하이닉스에 중요한 이유

SK하이닉스는 현재 AI 메모리 시장에서 HBM을 핵심 사업으로 확대하고 있다.

여기에 HBF가 새로운 시장으로 자리 잡는다면 AI 메모리 사업 영역을 D램뿐 아니라 낸드플래시까지 확장할 수 있다.

현재 AI 인프라는 HBM과 기업용 SSD를 중심으로 구성돼 있다.

HBF가 그 중간 계층으로 자리 잡으면 SK하이닉스는 HBM, HBF, 기업용 SSD까지 AI 서버의 여러 메모리 계층에 제품을 공급할 기회를 확보할 수 있다.

이는 단순히 새로운 제품 하나를 추가하는 문제와는 조금 다르다.

AI 서버에서 데이터가 저장되고 이동하는 여러 구간에 메모리 제품을 공급할 수 있다는 의미이기 때문이다.

특히 HBF가 낸드 수요를 새롭게 만들어낼 수 있다는 점도 중요하다.

AI 열풍은 지금까지 HBM을 중심으로 D램 시장에 강한 영향을 줬다. 앞으로 AI 추론 인프라에서 대용량 낸드 기반 메모리의 사용이 확대된다면 낸드 시장에도 새로운 고부가가치 수요가 만들어질 가능성이 있다.

같은 행사에서 공개한 375단 낸드와는 구분해야

SK하이닉스는 FMS 2026에서 10세대 375단 4D 낸드도 공개했다.

회사에 따르면 해당 제품은 이전 세대와 비교해 전력당 성능이 약 2.5배 향상됐으며 이를 적용한 기업용 SSD는 2027년 초 양산을 목표로 하고 있다.

HBF 역시 낸드플래시를 기반으로 하기 때문에 두 발표를 하나의 제품으로 연결해서 생각하기 쉽다.

하지만 현재 공개된 내용만으로 375단 낸드가 첫 HBF 제품에 사용된다고 단정할 수는 없다.

HBF는 하나의 메모리 아키텍처와 규격에 대한 발표이고 375단 4D 낸드는 SK하이닉스가 개발하는 새로운 낸드 제품이다.

향후 HBF 시제품의 구체적인 낸드 세대와 패키징 구조가 공개돼야 실제 제품의 구성을 확인할 수 있다.

표준 공개와 상용화는 다른 단계다

이번 발표에서 가장 주의해서 볼 부분도 여기에 있다.

HBF의 첫 규격이 공개됐다고 해서 512GB HBF 제품을 당장 구매할 수 있다는 의미는 아니다.

현재는 여러 기업이 제품과 시스템을 설계할 수 있도록 기술적 기준을 마련한 단계에 가깝다.

상용화까지는 실제 반도체 제작과 패키징, 시스템 검증, 소프트웨어 개발 등의 과정이 남아 있다.

샌디스크는 앞서 2026년 하반기 HBF 샘플 공급과 2027년 초 HBF 기반 AI 추론 장치의 샘플 등장을 목표로 제시한 바 있다.

하지만 개발 일정은 제품 성능과 수율, 고객사의 검증 과정 등에 따라 달라질 수 있다.

따라서 현재 단계에서 HBF 관련 매출 규모나 시장점유율을 구체적으로 예상하는 것은 이르다.

HBF 상용화에서 확인해야 할 부분

앞으로 HBF의 실제 경쟁력을 판단하기 위해서는 몇 가지 지표를 확인할 필요가 있다.

첫 번째는 실제 제품의 성능이다.

규격에서 초당 최대 3TB의 대역폭을 제시했지만 상용 제품이 AI 추론 환경에서 실제로 어느 수준의 속도와 지연시간을 보여주는지가 중요하다.

두 번째는 가격이다.

HBF가 HBM과 SSD 사이를 공략하려면 단순히 용량이 큰 것만으로는 부족하다. HBM을 추가하는 것보다 비용 효율적인 선택지가 돼야 한다.

세 번째는 전력 효율이다.

대형 데이터센터에서는 메모리 성능뿐 아니라 전력 소비와 냉각비용이 전체 운영비에 큰 영향을 미친다.

네 번째는 고객사 채택이다.

구글과 텐스토렌트 등이 표준화 과정에 참여했다는 사실은 의미가 있지만 실제 제품 도입과는 구분해야 한다.

향후 클라우드 기업과 AI 가속기 업체가 HBF를 실제 시스템에 적용하는지가 시장 형성 여부를 판단하는 중요한 기준이 될 것이다.

마지막은 소프트웨어다.

AI 프로그램이 데이터를 HBM, HBF, SSD 사이에 효율적으로 배치하고 이동시키지 못한다면 새로운 메모리 계층이 추가되더라도 기대한 만큼의 성능 개선을 얻기 어려울 수 있다.

개인적인 견해

이번 HBF 발표에서 개인적으로 가장 중요하게 보는 것은 최대 512GB나 초당 3TB라는 숫자보다 HBM과 SSD 사이에 새로운 메모리 계층을 만들려 한다는 점이다.

AI 반도체 경쟁은 지금까지 GPU의 연산 성능과 HBM 대역폭에 관심이 집중돼 있었다.

하지만 AI 서비스가 실제 이용자에게 대규모로 제공되는 추론 단계로 넘어갈수록 모든 데이터를 가장 비싼 메모리에 넣는 방식에는 경제적인 한계가 나타날 가능성이 있다.

그런 상황에서 HBF가 HBM을 대체하지 않으면서 HBM 사용량을 효율적으로 보완할 수 있다면 AI 서버의 메모리 구성 자체가 지금보다 세분화될 수 있다.

SK하이닉스 입장에서도 흥미로운 부분이다.

현재 AI 메모리 시장에서 강점을 가진 HBM에 이어 낸드 기반의 HBF 시장까지 형성된다면 AI 인프라 성장의 수혜 범위가 D램에서 낸드로 확대될 가능성이 있기 때문이다.

다만 아직은 첫 표준이 공개된 단계라는 점을 분명히 구분할 필요가 있다고 생각한다.

실제 제품의 가격과 성능, 전력 효율이 검증되지 않았고 주요 GPU와 AI 가속기에 어느 정도 채택될지도 확인되지 않았다.

결국 HBF의 성공 여부는 최고 사양보다 실제 AI 서비스를 운영했을 때 한 개의 답변을 생성하는 비용과 전력을 얼마나 줄일 수 있는지가 결정할 가능성이 높다.

향후 시제품과 고객사 도입 사례가 나오기 시작하면 HBF가 단순한 새로운 메모리 개념에 머무는지, 아니면 HBM과 SSD 사이의 새로운 시장으로 자리 잡는지를 보다 명확하게 판단할 수 있을 것으로 본다.

※ 이 글은 기업의 공식 발표자료와 공개된 기술정보를 바탕으로 내용을 정리하고 추가적인 해설과 분석을 더한 정보성 콘텐츠이며, 특정 기업 또는 종목의 매수·매도를 권유하지 않습니다.

출처: SK하이닉스 뉴스룸, Sandisk 공식 발표자료, Open Compute Project 관련 공개자료