[서울=뉴스핌] 조민교 기자 = 안현 SK하이닉스 개발총괄 사장(CDO)이 인공지능(AI) 추론 시대에는 고대역폭메모리(HBM)의 성능을 높이는 것만으로는 한계가 있다며 메모리 간 데이터 이동을 줄이기 위한 새로운 메모리 구조가 필요하다고 강조했다. 이를 위해 차세대 메모리인 고대역폭플래시(HBF) 개발에 속도를 내고 내년 1월 최종 기술 규격을 마련하겠다는 계획도 밝혔다.

안 사장은 14일 서울 강남구 코엑스에서 열린 'SEDEX 2026(제28회 반도체대전)' 기조연설에서 "메모리 계층 간 데이터 이동이 증가하면서 가장 중요한 병목은 데이터 이동이 됐다"고 진단했다. 이어 HBM과 D램, 저장장치 사이에 새로운 메모리 계층을 추가해 AI 시스템 전체의 성능과 전력 효율을 높여야 한다고 강조했다.

◆안현 "AI 기술 확산 속도 100배"…메모리 병목 심화 전망

안 사장은 AI 기술의 빠른 확산이 기존 메모리 산업의 개발·공급 방식을 바꾸고 있다고 진단했다. 그는 "AI 시대에는 기술 대중화 주기가 과거 대비 100분의 1로 압축되고 있다"며 "인류가 경험하지 못한 속도로 기술이 확산하고 있다"고 말했다.

특히 AI 수요가 발생한 뒤 반도체 생산을 늘리는 기존 방식으로는 시장 변화에 대응하기 어렵다고 강조했다. 안 사장은 "AI 데이터센터가 과거와 같은 속도로 갈 수 없다"며 "메모리 표준화와 생산능력 확보는 수요가 생성되기 전부터 미리 준비돼야 한다"고 밝혔다.

이 같은 변화는 AI 서버의 메모리 용량 부족으로 이어지고 있다. AI가 이전 대화나 연산 결과를 저장해 다시 활용하는 'KV 캐시'가 대표적이다. AI가 한 번에 이해할 수 있는 정보의 양이 늘어나고 여러 작업을 동시에 처리할수록 저장해야 할 데이터도 급증한다.

안 사장은 대규모 AI 모델을 동시에 구동하는 사례를 제시하며 기존 HBM과 D램의 저장 용량만으로는 필요한 데이터를 모두 담기 어려워지고 있다고 설명했다. 결국 상대적으로 속도가 느린 SSD까지 데이터를 옮겨야 하는 상황이 발생하면서 AI의 응답 속도와 전력 효율이 떨어진다는 것이다.

◆병목 해소 카드로 HBF 제시…내년 1월 최종 규격 목표

안 사장이 제시한 핵심 해법은 서로 다른 메모리 사이에 새로운 저장 계층을 추가하는 것이다. 빠른 속도가 필요한 데이터는 HBM에서 처리하고, 대용량 데이터는 별도 메모리에 저장해 이동에 따른 시간과 전력 소모를 줄이는 방식이다.

이를 위한 대표적인 기술이 HBF다. HBF는 낸드플래시를 여러 층으로 쌓아 대용량 데이터를 빠르게 처리하도록 설계한 차세대 메모리다. SK하이닉스는 같은 세대 HBM 대비 약 10배의 저장 용량과 절반 수준의 데이터 전송 대역폭을 확보하는 것을 목표로 개발하고 있다.

안 사장은 HBF가 AI 추론에 적합한 이유로 데이터를 반복해서 읽는 작업이 많다는 점을 꼽았다. 그는 특정 AI 모델의 데이터 처리 사례를 들어 읽기 작업이 쓰기 작업보다 약 30만배 많다고 설명했다. 쓰기 횟수에 제약이 있는 낸드플래시라도 읽기 중심의 AI 추론 환경에서는 충분히 활용할 수 있다는 판단이다.

HBF 상용화를 위한 표준화 일정도 구체화했다. 안 사장은 "세상에 없는 새로운 낸드 계층을 만드는 것"이라며 "구글과 같은 클라우드 기업과 AI 반도체 기업들이 참여해 규격을 논의하고 있으며, 내년 1월 최종 규격을 만들 것"이라고 밝혔다.

SK하이닉스는 지난해 샌디스크와 HBF 표준화 협력에 착수한 뒤 올해 8월 첫 표준 규격을 공개했다. 여기에 구글 등 글로벌 기업이 참여하면서 기술 개발부터 시스템 적용까지 함께 추진하는 방식으로 협력을 확대하고 있다.

◆GPU 위에 D램 쌓는다…새로운 메모리 구조도 제시

안 사장은 연산장치와 메모리 사이의 데이터 이동을 줄이기 위한 '3D 적층 D램'도 차세대 기술로 소개했다. GPU나 신경망처리장치(NPU) 위에 D램을 직접 쌓아 두 장치 사이의 물리적 거리를 줄이는 기술이다.

그는 "GPU나 NPU 위에 바로 D램을 올려 프로세서와 메모리를 연결하면 엄청난 전력 절감이 가능하다"며 "첨단 패키징을 통해 열 문제까지 해결할 수 있다면 새로운 메모리 솔루션으로 성장할 것"이라고 전망했다.

SK하이닉스는 이 밖에도 여러 AI 서버가 메모리를 공유할 수 있도록 하는 CXL 기반 메모리 기술과 기존 저장장치보다 데이터 처리 속도를 4~8배 높이는 차세대 스토리지 기술을 개발하고 있다. 모두 AI 시스템 내부의 데이터 이동을 줄이고 메모리 활용 효율을 높이기 위한 기술이다.

안 사장은 메모리 산업이 단순한 부품 공급을 넘어 AI 시스템의 성능을 결정하는 산업으로 변화하고 있다고 강조했다. 그는 "평생 메모리를 해온 사람으로서 메모리를 단순한 부품이라고 생각하지 않는다"며 "고객마다 요구하는 것이 달라지는 만큼 함께 협의하면서 새로운 메모리 솔루션을 만들어가야 한다"고 말했다.

이어 "HBM으로 AI 시대를 선도한 것처럼 완전히 새로운 메모리 솔루션을 통해 지속적인 성장을 이끌어 나갈 것"이라며 "AI의 빠른 확산은 대한민국에 절호의 기회인 만큼 국내 여러 기업과 협력해 새로운 AI 생태계를 만들기를 바란다"고 덧붙였다.

mkyo@newspim.com