SK하이닉스 "'메모리 간 데이터 이동' 新 병목…3D 적층 D램·HBF로 해결"

안현 개발총괄 사장, SEDEX 2026 기조강연
"2030년 AI 인프라 20배 폭증,
HBM 넘는 차세대 메모리 계층 필수"
"글로벌 파트너와 표준화 주도할 것"

SK하이닉스는 인공지능(AI) 추론 수요 확대에 따라 메모리 계층 간 데이터 이동 과정에서 새로운 병목 현상이 발생하고 있다고 진단하고, 이를 해결할 핵심 차세대 기술로 '3D 스택트(Stacked) D램'과 '고대역폭플래시(HBF)'를 제시했다.

안현 SK하이닉스 개발총괄 사장이 14일 서울 코엑스에서 개최된 '제28회 반도체대전(SEDEX 2026)' 기조강연에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 발표하고 있다. 권현지 기자

안현 SK하이닉스 개발총괄 사장은 14일 서울 코엑스에서 개최된 '제28회 반도체대전(SEDEX 2026)' 기조강연에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 발표하며 이같이 밝혔다.

안 사장은 AI 시장의 성장이 정체되기보다 더 빠른 속도로 가속화되고 있다고 진단했다. 특히 에이전틱 AI(Agentic AI)의 등장으로 사람이 생성하는 토큰 대비 에이전트가 필요로 하는 토큰량이 15배에서 100배 이상 폭증하면서, 2030년 AI 인프라 규모가 올해 대비 20배 가까이 커질 것으로 내다봤다.

이 과정에서 가장 큰 병목으로 떠오른 것은 '메모리 계층 간 데이터 이동'이다. 안 사장은 "재작년까지만 해도 약 128K 정도였던 컨텍스트 길이(Context Length)가 최근 1밀리언(100만) 토큰 수준으로 늘어났고 앞으로 더욱 가파르게 증가할 것"이라며 최근 1억(100M) 토큰 수준까지 컨텍스트 길이가 확장되는 추세를 언급했다. 이에 따라 기존 고대역폭메모리(HBM)과 D램 용량만으로는 데이터를 다 채우지 못해 솔리드스테이트드라이브(SSD)까지 데이터가 넘치는 '스필 오버(Spill-over)' 현상이 발생하고 있다고 짚었다.

안 사장은 "이제는 S램부터 HBM, D램, SSD로 이어지는 메모리 계층 간 성능 격차와 데이터 이동 자체가 새로운 병목이 되고 있다"며 "성능을 높이면 용량이 줄고, 용량을 키우면 성능이 떨어지는 한계를 극복하려면 완전히 새로운 메모리 계층을 계속해서 만들어내야 한다"고 강조했다.

SK하이닉스는 이 같은 메모리 병목을 해결할 혁신 기술로 3D Stacked D램과 HBF 등 새로운 메모리 계층을 제시했다. 3D Stacked D램은 그래픽처리장치(GPU)나 신경망처리장치(NPU) 등 로직 반도체 위에 D램을 수직으로 적층하고 실리콘관통전극(TSV)으로 직접 연결하는 방식이다. 기존 HBM 대비 입출력(I/O) 통로를 수십배 늘려 데이터 전송 속도를 높이고 전력 소모를 획기적으로 줄일 수 있다.

HBF는 SK하이닉스가 HBM을 만들며 쌓은 TSV 적층 노하우를 낸드플래시에 적용한 초고용량 메모리다. 대역폭은 HBM의 절반 수준이지만 용량은 10배 이상으로 늘리는 것을 목표로 개발 중이다. 안 사장은 AI 추론 작업이 데이터를 쓰는 것보다 이미 저장된 데이터를 읽는 비중이 수십만 배 높다는 점에 착안해, 읽기에 유리한 낸드 기반 HBF가 대용량 AI 인프라의 핵심 대안이 될 것이라고 강조했다.

안 사장은 "HBF는 이미 샌디스크 등 글로벌 협력사를 비롯해 구글 등 대형 클라우드 서비스 제공사(CSP)들과 손잡고 표준화를 추진 중"이라며 "내년 1월 최종 스펙을 만들어 글로벌 생태계를 선제적으로 구축할 것"이라고 밝혔다. 이 외에도 CXL 기반의 풀드 메모리(Pooled Memory)와 스토리지 속도를 4~8배 높인 '스토리지 넥스트(Storage-Next)' 개발 현황도 함께 공개했다.

한편, SK하이닉스는 이번 SEDEX 2026 전시장 내 최대 규모 부스를 마련하고 AI 인프라부터 온디바이스 AI용까지 폭넓은 맞춤형 메모리 솔루션을 공개했다. '멈추지 않고 나아가는 AI 여정'을 주제로 육상 트랙 형태로 구성한 전시관에는 HBM·HBF 구조 모형과 HBM 개발 역사 전시물을 배치했다. 또한 엔비디아 '베라 루빈' 슈퍼칩과 젠슨 황 엔비디아 최고경영자(CEO)의 사인이 새겨진 HBM 웨이퍼가 배치돼 양사의 파트너십을 과시했다.

서버용 D램 분야에서는 세계 최초로 10나노급 6세대(1c) 공정을 적용한 '64GB 알딤(RDIMM)'과 업계 최대 용량의 '256GB 3DS RDIMM', 초고속 '128GB MRDIMM'을 선보였다. 기업용 SSD(eSSD) 부문에서는 액체냉각(DLC) 기술을 지원하는 제품과 함께 회사 최초의 쿼드레벨셀(QLC) 기반 기업용 SSD인 'PS1101'을 전시했다. PC 및 모바일 분야에서도 차세대 모듈인 CSODIMM과 GDDR7, LPDDR6, UFS 5.0 등 AI 에코시스템을 타깃으로 한 차세대 솔루션을 대거 공개했다.

권현지 기자 hjk@asiae.co.kr