[칩톡]데이터 저장으로 응답시간 빨라져…AI 'HBF' 시대 온다

고대역폭메모리(HBM)에 집중됐던 글로벌 메모리 경쟁이 고대역폭플래시(HBF)로 옮겨갈 조짐이다. 솔리드스테이트드라이브(SSD)와 낸드플래시를 전문으로 만드는 미국 기업 '샌디스크'가 SK하이닉스와 인공지능(AI)용 HBF 표준화를 위해 힘을 합치기로 하면서 내년 하반기 시제품 출시, 내후년에 HBF를 탑재한 AI 추론용 장치 샘플을 공개하겠단 구체적인 로드맵도 내놨다. 삼성전자, 솔브레인 등 우리 기업들도 하나둘씩 가세하고 있다.

HBF는 3D 낸드플래시를 수직으로 적층한 새로운 메모리 아키텍처다. D램을 쌓아 올리는 HBM과 적층 구조란 점에선 유사하다. 메모리를 적층해서 대역폭을 크게 넓혔다는 점도 같다. 다만 HBM에 쓰이는 D램은 휘발성, HBF에 쓰이는 낸드는 비휘발성이란 점에서 큰 차이가 있다. 기기 전원이 꺼지면 데이터를 잃느냐(휘발성), 그대로 보존하느냐(비휘발성)가 다르다.

업계에선 HBF의 등장으로 HBM을 기반으로 조성돼 온 그간의 AI 시대와는 다른 국면을 맞이할 것으로 본다. 많은 데이터를 오랫동안 지키고자 하는 방향으로 인공지능(AI) 시장이 변화하면서 HBF가 HBM의 자리를 대신할 것이란 관측에 힘이 실린다. 스몰캡 전문 조사기관 '그로쓰리서치'는 최근 낸 'HBF 산업 재편: 저장과 메모리를 잇는 새로운 구조' 보고서에서 "HBF의 등장은 휘발성 고속 메모리(D램)와 비휘발성 저속 저장장치(낸드)라는 수십 년 간 이어져 온 이분법적 구조를 무너뜨리는 '저장-메모리 융합'의 본격적인 시작을 알린 것"이라고 평가했다. 보고서를 쓴 한용희 그로쓰리서치 대표는 "HBF는 단순한 저장장치가 아니라 AI 인프라의 근본 구조를 바꾸는 새로운 아키텍처"라고 강조하며 "우리나라는 메모리·소재·제어기술이 결합된 복합 생태계에서 글로벌 기술주도권을 확보할 중요한 시점에 와 있다"고 했다.

HBF는 단순히 HBM을 통해 기업들 사이에서 다져진 '쌓기'의 내공으로 인해 등장한 건 아니다. AI 시장의 중심이 학습에서 추론으로 넘어가면서 개발의 필요성이 생겼다. HBM은 적은 소화 용량과 휘발성의 한계가 약점으로 지적돼 왔다. 그럼에도 대체할 방법이 없었다. AI 시장이 추론으로 옮기면서 이 문제는 더욱 부각됐다. AI가 학습하는 데는 HBM만으로도 충분히 그 성능과 속도를 제어할 수 있다. 하지만 추론은 다르다. 추론에서 AI는 사용자의 요청에 즉각적으로 응답하기를 요구받는다. 가령 오픈AI 챗GPT에 사용자가 무언가를 알려달라고 질문을 하면 빨리 대답해야 하는 시대에 우린 봉착해 있다. AI는 이제 지연시간을 최소화하는 게 더욱 중요해졌다.

메모리도 평소에 방대한 데이터를 저장해두는 역할을 수행해야 하는 시점에 이르렀다. AI의 개인화 확대도 영향이 있다. 각 개인은 AI를 통해 본인 고유의 데이터를 대용량으로 오랫동안 갖고 있길 원한다. D램을 쌓아 올려 만든 HBM은 휘발성이 강해 데이터를 오랫동안 갖고 있을 수 없다. 이는 상대적으로 비휘발성인 낸드를 쌓아 올린 HBF가 주목받게 된 원인이 됐다.

HBF는 업계의 숙원인 SSD와 프로세서 간 직접 연결 문제를 풀 '해결사'가 될 가능성도 있다. 프로세서는 중앙처리장치(CPU) 및 그래픽처리장치(GPU) 등을 말한다. SSD는 다량의 데이터를 저장할 수 있고, 외관도 튼튼해 안전하게 보관할 수 있어 기업 사이에서 수요가 높다.

하지만 현 반도체 구도 아래에서 SSD와 프로세서를 연결하려면 그 사이에 낸드플래시 컨트롤러와 D램을 둬야 한다. SSD와 프로세서를 곧바로 연결하면 데이터 접근 속도가 원천적으로 느리고 프로세서 연산 속도도 크게 떨어진다.

이런 문제에도 불구하고 기술자들이 SSD와 프로세서를 곧바로 연결하려 하는 건, 기존 체제로는 데이터가 이동하는 데 에너지 낭비가 너무 심하기 때문이다. 이는 향후 AI 데이터센터 등 인프라 구축에도 지대한 영향을 미칠 수 있어 반드시 해결해야 할 문제로 지목된다. HBF는 연결체계를 축약하면서 에너지 소비를 줄여줄 수 있는 능력을 지닌 것으로 평가받는다. HBF는 컨트롤러와 D램이 해야 하는 역할까지 도맡으며 빠른 데이터 처리가 가능할 것으로 보여서다. 다만 낸드의 특성상 HBF를 거치는 데이터의 묶음 크기가 매우 커서 이에 걸맞은 소프트웨어가 동반돼야 제대로 작동이 가능할 것이란 지적도 있다.

HBM에서 패키징과 관련해 다른 길을 갔던 SK하이닉스와 삼성전자는 HBF에서도 행보가 대조된다. HBF가 지니고 있는 '기술적 난제'를 각자의 방식으로 해결해보려 하면서 차이가 생긴 것으로 풀이된다. HBF는 D램보다 구조가 복잡한 낸드를 적층하기 때문에 HBM과 동일하게 실리콘 관통전극(TSV) 공정을 쓰면 수율 확보가 어렵고 제조 비용도 더욱 늘어날 수 있는 문제가 있다. 낸드에 맞게 만들어야 하는 고성능 로직다이(컨트롤러)의 설계도 난도가 매우 높다. 또한 수백~수천개의 낸드 채널을 병렬로 동시에 제어할 수 있도록 구조를 짜는 것도 매우 험난하다.

SK하이닉스는 HBM 시장에서 경쟁력을 확보하는 데 썼던 패키징 방식을 그대로 확장하려 한다. 수직 와이어 팬아웃(VFO)이 대표적인 기술인데, 기존의 TSV를 칩 내부로 관통시키는 방식 대신 칩 외곽을 따라 수직으로 연결하는 새로운 패키징 구조를 도입한 것으로 전해진다. 삼성전자는 자사의 파운드리사업부가 보유한 첨단 핀펫 공정 기술을 낸드 기반 HBF 로직 다이에 적용하는 전략을 추진하고 있는 것으로 알려졌다. 낸드를 제어하는 로직다이의 연산성능·전력효율·병렬제어 능력을 끌어올려 여러 문제를 해결해보겠단 구상이다.

아직 HBF는 그 시장이 완전히 개화됐다고 보기엔 무리가 있다. HBM이 여전히 득세하고 있는 가운데, HBF는 조금씩 그 빈틈을 엿보고 있는 수준으로 평가된다. HBM 흥행을 정확히 예측한 김정호 카이스트 교수 등 전문가들은 2030년께 HBF 시대가 도래할 것으로 보고 있다.