AI 데이터 병목 뚫는다…·SK하이닉스, 'OCP 2026'서 차세대 메모리 솔루션 공개

권현지 기자

입력 2026.10.16 11:17

AI 시대 서버 아키텍처 해법 제시
메모리 중심 AI 랙 시연 등 기술력 과시
HBM4·소캠2·HBF 등 전시

SK하이닉스가 인공지능(AI) 데이터 양이 폭증함에 따라 발생하는 '데이터 병목 현상'을 근본적으로 해결할 차세대 메모리 솔루션을 공개했다.

지난 12일(현지시간)부터 15일까지 미국 캘리포니아주 새너제이에서 열린 데이터센터 하드웨어 기술 콘퍼런스인 'OCP 글로벌 서밋 2026(OCP Global Summit 2026)' 전시장 내 SK하이닉스 부스 전경. SK하이닉스

SK하이닉스는 지난 12일(현지시간)부터 15일까지 미국 캘리포니아주 새너제이에서 열린 데이터센터 하드웨어 기술 콘퍼런스인 'OCP 글로벌 서밋 2026(OCP Global Summit 2026)'에 참가해 차세대 AI 메모리 솔루션을 대거 공개했다고 밝혔다. SK하이닉스는 이번 전시에서 '신뢰성'과 '효율성'을 시각화한 견고한 그레이 프레임과 네온 블루 조명의 부스를 구성했으며, 전면 '메모리 섹션'과 후면 '시스템 데모' 섹션으로 나눠 새로운 서버 시스템을 실제 시연하는 등 기술 리더십을 입증했다.

시스템 데모 섹션에서는 AI 서비스 고도화 과정에서 나타나는 전력 낭비와 데이터 처리 한계를 극복하기 위한 핵심 솔루션이 차례로 소개됐다. CMM(CXL 메모리 모듈)-더블데이레이트(DDR)5는 컴퓨트 익스프레스 링크(CXL) 인터페이스 규격을 기반으로 여러 서버가 필요한 만큼 메모리를 공유해 쓰는 메모리 솔루션이다. 이번에 공개된 CXL 3.2 기반 2세대 256GB 제품은 이전 세대 대비 대역폭이 2배 이상 증가하고 에너지 효율이 약 30% 개선됐다. 네이버클라우드와 지난해 9월 체결한 업무협약(MOU)을 바탕으로 에이전틱 AI 환경에서의 KV(키값) 캐시 공유 및 옴니모달 서비스 '옴니서브(OmniServe)'의 임베딩 공유 유효성을 PoC(개념 검증) 수준에서 입증한 성과를 선보였다.

메모리 중심 AI 랙 시스템(MARS)은 메모리를 중심으로 파트너사 솔루션을 하나의 랙(Rack)에 통합해 데이터 이동 효율을 극대화한 시스템이다. CXL 풀드 메모리를 활용해 그래픽처리장치(GPU)와 서버를 직접 연결, 기존 네트워크 통신 방식 대비 KV 캐시 재사용 속도와 시스템 성능을 대폭 향상시켰다. D램과 솔리드스테이트드라이브(SSD)를 결합한 하이브리드 구조를 적용해 지속적으로 생성되는 대규모 KV 캐시를 효율적으로 저장·재사용하는 성능을 검증했다. AI 모델 간 데이터 전달을 풀드 메모리 기반 스트리밍으로 가속화해 서비스 응답 지연을 혁신적으로 개선했다.

CMM-Ax는 메모리 내부에서 직접 연산을 수행해 GPU로 데이터를 옮기는 전력·비용 부담을 획기적으로 줄인 차세대 메모리다. 이번 전시에서 이를 통해 기존 GPU 기반 시스템에서 처리하기 힘든 긴 문맥(Long Context) 연산을 가속할 수 있음을 입증했다. 해당 연구는 컴퓨터 아키텍처 분야 최고 권위 학회인 '마이크로(MICRO) 2026'에 채택되며 기술력을 인정받았다.

지난 12일(현지시간)부터 15일까지 미국 캘리포니아주 새너제이에서 열린 데이터센터 하드웨어 기술 콘퍼런스인 'OCP 글로벌 서밋 2026(OCP Global Summit 2026)' 전시장 내 SK하이닉스 부스에서 관람객들이 ‘시스템 데모’ 섹션을 둘러보고 있다. SK하이닉스

전시장 전면 메모리 섹션에서는 현재 메모리 시장을 주도하는 주력 라인업과 차세대 제품군이 동시에 전시됐다. 기업용 SSD(eSSD) 영역에서는 고성능 'PS1010 U.2'를 비롯해 개발 중인 'PS1110 E3.S', 고용량 'PS1101 E3.S', 액체냉각(DLC)을 지원하는 데이터센터용 'PEB210 E1.S' 및 'PEB210 M.2 2280' 등 고객 맞춤형 라인업을 선보였다. 서버 D램에서는 업계 최대 용량인 256GB 3DS 서버용 DDR5 메모리모듈(RDIMM), 96GB/64GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 전력·공간 효율을 높인 192GB 소캠(SOCAMM)2 모듈을 전시했다.

엔비디아의 차세대 '베라 루빈 슈퍼칩' 모형을 배치하고, 관람객이 서버 모형에 고대역폭메모리(HBM)4와 SOCAMM2를 직접 탑재해보는 체험 공간도 마련했다. 실물 대비 100만배 확대된 HBM 모형과 모니터를 통해 핵심 제조 기술인 실리콘관통전극(TSV)과 어드밴스드 매스 리플로 몰디드언더필(MR-MUF)의 방열·휘어짐 제어 우수성을 소개했으며, 세대별 HBM3, HBM4, HBM4E 실물을 비교 전시했다.

고대역폭플래시(HBF)는 TSV 기술을 낸드플래시에 적용해 기존 스토리지의 대용량 특성에 고대역폭 속도를 더한 차세대 솔루션이다. SK하이닉스는 빠른 응답 속도가 필요한 환경에서는 HBM을, 다수 사용자 대응을 위한 대용량 메모리가 필요한 AI 추론 환경에서는 HBF를 활용하는 계층별 메모리 활용 전략을 제시했다.

행사 기간 중 진행된 발표 세션에서도 SK하이닉스의 기술 제언이 이어졌다. 김호식 메모리 시스템 리서치 담당 부사장은 MARS를 주제로 한 발표에서 기존 CPU·GPU 중심 구조는 전력과 병목으로 '메모리 월' 한계에 직면했다고 짚으며 CXL 기술 기반의 MARS를 통해 에이전틱 AI의 KV 캐시 재사용, 멀티모달 옴니 모델 응답 가속, 그래프신경망(GNN) 학습 시 불규칙한 메모리 접근 문제를 근본적으로 해결하겠다고 강조했다.

주영표 메모리 아키텍처 담당 부사장은 생태계 내에서 고객과 제품을 연결하는 소프트웨어 프레임워크의 중요성과 표준화 필요성을 강조했으며, 김종률 AI 시스템 인프라 팀장은 에이전틱 AI 성능을 높이는 공유 메모리 기반 토큰 공유(Token Sharing) 및 KV 캐시 공유 기술을 소개했다.