[삼성 굴기] HBM 다음 카드 'SOCAMM2'…AI 서버 메모리 구조 바뀐다

[녹색경제신문 = 정창현 기자] 삼성전자가 차세대 인공지능(AI) 데이터센터를 겨냥한 새로운 메모리 전략을 사업보고서를 통해 제시했다. 핵심은 ‘SOCAMM2’다.

GPU용 고대역폭 메모리(HBM) 중심이던 AI 서버 메모리 구조에 새로운 시스템 메모리 계층을 추가하겠다는 전략이다. AI 반도체 경쟁이 심화되는 가운데, 삼성전자가 HBM 이후의 메모리 시장까지 선점하려는 포석이라는 분석이 나온다.

11일 삼성전자 사업보고서에 따르면, 삼성전자는 AI 데이터센터용 메모리 포트폴리오로 HBM, DDR5, GDDR7과 함께 SOCAMM2 등 차세대 메모리 기술 개발을 추진하고 있다. AI 서버 수요 확대에 대응해 메모리 제품군을 다층 구조로 확장하겠다는 전략이다.

SOCAMM2는 스마트폰 등에 사용되는 저전력 D램인 LPDDR 기반의 서버용 메모리 모듈이다. 기존 서버 메모리와 달리 저전력 특성과 모듈형 구조를 결합해 AI 데이터센터에 최적화된 메모리 솔루션으로 설계됐다.

기존 데이터센터 서버는 DDR 기반 RDIMM 메모리가 표준으로 사용돼 왔다. 하지만 AI 서버에서는 연산량이 급격히 증가하면서 전력 소비와 발열이 중요한 제약 요소로 떠오르고 있다.

현재 AI 서버는 GPU 옆에 초고속 연산을 위한 HBM이 장착되고, CPU에는 DDR 기반 시스템 메모리가 사용되는 구조다. SOCAMM2는 이 가운데 CPU가 사용하는 서버 메모리를 저전력 고대역폭 구조로 개선한 차세대 메모리로 AI 시스템 전반의 데이터 처리 효율을 높이기 위해 개발되고 있다. 쉽게 말해 HBM이 GPU용 메모리라면 SOCAMM2는 AI 서버의 CPU용 차세대 메모리다.

특히 SOCAMM2는 기존 LPDDR 서버 구조의 단점도 보완했다. 그동안 LPDDR 메모리는 메인보드에 직접 납땜하는 방식이어서 교체가 어려웠지만, SOCAMM2는 분리형 모듈 구조를 적용해 서버 운영 중에도 메모리 교체와 업그레이드가 가능하다. 이를 통해 데이터센터 운영 효율과 총소유비용(TCO)을 개선할 수 있다는 설명이다.

물리적 구조도 달라졌다. 기존 서버 메모리가 수직 형태로 장착되는 것과 달리 SOCAMM2는 수평 구조를 적용해 서버 내부 공간 활용도를 높이고 열 관리 효율을 개선했다. 이는 AI 가속기와 CPU 주변의 냉각 설계를 보다 유연하게 만드는 장점이 있다.

삼성전자는 SOCAMM2 확산을 위해 AI 생태계와의 협력도 확대하고 있다. 특히 엔비디아와 기술 협력을 통해 SOCAMM2를 AI 가속 인프라에 최적화하는 작업을 진행 중이다. AI 워크로드가 대규모 학습에서 실시간 추론 중심으로 확대되면서 전력 효율과 응답성을 동시에 확보할 수 있는 메모리 기술이 중요해지고 있다는 판단에서다.

업계에서는 SOCAMM2가 향후 AI 데이터센터에서 HBM과 함께 새로운 메모리 축으로 자리 잡을 가능성이 있다는 평가도 나온다. GPU 주변에는 HBM이, CPU 시스템 메모리에는 SOCAMM2가 사용되는 형태로 AI 서버 메모리 구조가 재편될 수 있다는 전망이다.

반도체 업계 관계자는 “AI 데이터센터가 확대될수록 전력 효율이 높은 메모리 수요가 커질 수밖에 없다”며 “SOCAMM2는 HBM과 함께 AI 서버 메모리 구조를 구성하는 핵심 기술로 자리 잡을 가능성이 있다”고 말했다.