SK하이닉스, CXL·연산 메모리로 AI 데이터 병목 잡는다…차세대 서버 기술 공개

[녹색경제신문 = 정창현 기자]SK하이닉스가 AI 데이터 처리 과정에서 발생하는 병목 현상을 줄이기 위해 차세대 메모리 솔루션을 선보였다. 메모리 자원을 여러 서버가 공유하는 기술부터 메모리 내부에서 직접 연산하는 기술까지 공개하며 AI 데이터센터의 성능과 전력 효율을 높이기 위한 기술 경쟁에 나섰다.

SK하이닉스는 지난 12일부터 15일까지 미국 캘리포니아주 새너제이에서 열린 'OCP(오픈 컴퓨트 프로젝트) 글로벌 서밋 2026'에서 차세대 메모리 솔루션을 공개했다고 16일 밝혔다.

OCP 글로벌 서밋은 글로벌 IT·반도체·서버·데이터센터 기업들이 참여하는 연례 기술 콘퍼런스다. 올해는 AI 발전에 필요한 데이터센터 인프라 기술이 주요 화두로 떠올랐다.

SK하이닉스는 전시 공간을 메모리 섹션과 시스템 데모 섹션으로 나눠 구성했다. 시스템 데모 섹션에서는 CMM-DDR5, MARS, CMM-Ax 등 세 가지 솔루션을 소개하며 차세대 서버 환경에서 메모리 활용도를 높이는 기술을 선보였다.

CMM(CXL 메모리 모듈)-DDR5는 컴퓨트 익스프레스 링크(CXL) 인터페이스를 기반으로 여러 서버가 메모리 자원을 공유할 수 있도록 하는 솔루션이다. 서버별로 메모리를 따로 할당하는 방식에서 벗어나 필요한 자원을 나눠 쓰도록 해 메모리 활용 효율을 높이는 것이 특징이다.

이번 전시에서는 CXL 3.2 규격을 적용한 2세대 제품을 공개했다. 용량은 256GB로, 이전 세대보다 메모리 대역폭을 2배 이상 높이고 에너지 효율을 약 30% 개선했다.

MARS(Memory Centric AI Rack System)는 메모리를 중심으로 여러 파트너사의 솔루션을 하나의 랙에 통합한 차세대 시스템이다. SK하이닉스는 CXL 기반 메모리 풀링을 활용해 AI 서비스에서 발생하는 데이터 이동 부담을 줄이는 기술을 시연했다.

특히 AI 모델이 문장을 생성할 때 이전 연산 결과를 저장하는 KV 캐시를 메모리 풀을 통해 공유하는 방식으로 데이터 처리 효율을 높이는 데 초점을 맞췄다. 이를 통해 여러 AI 모델과 서버가 데이터를 주고받는 과정에서 발생하는 지연을 줄일 수 있다.

CMM-Ax는 메모리 내부에서 직접 연산을 수행하는 차세대 솔루션이다. 데이터를 별도의 프로세서로 이동시키는 과정을 줄여 데이터센터의 전력 소비와 운영 비용을 낮출 수 있다.

SK하이닉스는 이번 전시에서 긴 문맥을 처리하는 대규모 언어모델(LLM)의 추론 성능을 높이는 시스템도 선보였다. 해당 기술을 다룬 연구는 컴퓨터 아키텍처 분야 학회인 '마이크로(MICRO) 2026'에 채택됐다.

시스템 데모와 함께 진행된 발표 세션에서는 김호식 SK하이닉스 메모리 시스템 리서치 담당 부사장이 메모리 중심 AI 랙 시스템의 필요성과 기술 방향을 소개했다. 생성형 AI와 대규모 데이터센터의 성장으로 기존 중앙처리장치(CPU)·그래픽처리장치(GPU) 중심 시스템에서 메모리 병목과 전력 소비 문제가 커지고 있다는 점을 짚고, 메모리 자원을 효율적으로 공유하는 구조를 대안으로 제시했다.

SK하이닉스는 이번 전시에서 메모리 섹션을 통해 고대역폭메모리(HBM)와 서버용 D램, 기업용 솔리드스테이트드라이브(eSSD) 등 주요 제품군도 함께 소개했다. 차세대 메모리 기술뿐 아니라 AI 데이터센터에 필요한 메모리 제품 전반을 선보이며 관련 시장에서의 기술 경쟁력을 강조했다.

SK하이닉스는 “이번 OCP 글로벌 서밋에서는 차세대 메모리 솔루션이 실제 시스템에서 어떻게 작동하는지 직접 보여줄 수 있어 그 의미가 컸다”며 “앞으로도 메모리를 중심으로 AI 기술이 계속 발전해 나갈 수 있도록 기술 혁신을 지속해 나가겠다”고 말했다.