메모리에 AI 심은 삼성-SK하이닉스, PIM 공략해 ‘137조원’ AI 반도체 시장 선점 본격 시동

미래 먹거리로 지목되는 인공지능(AI) 반도체 시장 선점을 위해 삼성전자와 SK하이닉스가 치열한 기술 경쟁을 펼치고 있다.

글로벌 ‘메모리 강자’인 이들 업체가 현재 주목하고 있는 기술은 바로 PIM(Processing-in-Memory), 메모리 내부에 AI 기능을 탑재해 연산 작업을 가능하게 하는 지능형 반도체다.

한 반도체업계 관계자는 녹색경제신문에 “고사양·고성능 IT제품들이 다루는 데이터양 자체가 계속 늘고 있는 상황 속에서 AI 기술은 반도체 산업 전체가 추구하는 방향이 됐다”라며, “메모리 부문 세계 1, 2위를 다투는 삼성전자와 SK하이닉스 모두 차세대 메모리 개발에 있어서 PIM 기술 개발에 적극적으로 나서고 있다”라고 전했다.

실제 세계 AI 반도체 시장의 전망이 매우 밝다.

최근 정보통신정책연구원(KISDI)에 따르면 AI 반도체의 글로벌 시장 규모는 작년 184억 달러(한화 약 21조원)에서 약 10년 뒤 2030년이 되면 무려 6배 성장해 총 1179억 달러(한화 약 137조원)에 이를 것으로 전망된다.

세계 내로라하는 반도체기업들도 각 분야에서 AI 반도체 시장 선점을 위해 앞다퉈 경쟁 중이다. CPU 시장에서는 인텔과 AMD가, GPU 시장에서는 엔비디아가 잇따라 신제품을 선보이고 있으며, 특정 용도용 집적 회로인 ASIC의 경우, 구글·마이크로소프트 등 IT서비스 기업을 비롯해 테슬라·애플 등 기존 반도체 고객사 기업들까지 자체 개발에 나서고 있다.

메모리 부문 최강자, 삼성전자와 SK하이닉스가 AI 반도체 시장에서 가진 최대 강점은 PIM이다.

정부 역시 2020년부터 2029년까지 약 1조원을 투입하는 ‘차세대지능형반도체 기술개발사업’의 일환으로 내년부터 4000억원 규모의 PIM 반도체 기술 개발 사업을 본격적으로 추진하겠다고 발표했으며, 삼성전자와 SK하이닉스가 이 사업의 추진위원회로 참여하겠다는 의사를 내비친 것으로 전해졌다.

삼성, D램 모듈에 PIM 탑재한 ‘AXDIMM’ 선보여...SK하이닉스도 자체 지능형 메모리 AIM 개발 중

25일 업계에 따르면 PIM 기술 제품을 가장 발 빠르게 구현한 쪽은 삼성전자다.

삼성은 전날 온라인으로 개최된 Hot Chips 학회에서 AI엔진을 장착한 새 메모리 반도체 제품군을 공개하면서 업계의 이목을 집중시켰다.

이날 삼성이 처음 소개한 제품은 D램 모듈에 AI엔진을 탑재한 ‘AXDIMM(Acceleration DIMM)’이다. AXDIMM은 PIM 기술을 칩 단위에서 모듈 단위로 확장한 것으로, D램 모듈의 각 블록에 AI엔진을 넣어 병렬 처리를 극대화해 성능을 높인 제품이다.

삼성전자 관계자는 녹색경제신문에 “입출력하는 데이터양 자체가 어마어마하게 큰 HBM(고대역폭 메모리)과 달리, 일반 컴퓨터에 쓰이는 DDR의 경우는 다루는 데이터양이 그렇게 크지 않기 때문에 칩 단위로 PIM을 적용하기에는 효용성이 떨어진다는 문제점이 있었다”라며, “이번에 삼성이 공개한 AXDIMM은 칩 단위가 아닌, 여러 개의 칩으로 구성된 모듈 단위로 PIM을 적용하는 방식이므로 비용은 절감하고 효용성은 높이는 효과를 가져다 준다”라고 설명했다.

이러한 방식으로 D램 모듈 안에 들어간 AI엔진은 모듈 내부에서 자체 연산이 가능하도록 만들어 CPU와 D램 모듈 간의 데이터 이동을 줄이고, AI 가속기 시스템의 에너지 효율을 높일 수 있게 된 것이다.

삼성전자 관계자는 “아직 신기술 공개 단계라 AXDIMM의 상용화 시기는 정해진 바 없지만, 글로벌 고객사들의 서버 환경에서 성능 평가가 진행되고 있으며, 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소가 확인된 것으로 전해졌다”라고 덧붙였다.

이외에도 삼성은 모바일 분야까지 PIM을 확대 적용한 ‘LPDDR5-PIM’ 기술도 공개했다.

삼성은 “PIM 기술이 모바일 D램과 결합할 경우 데이터센터와 연결 없이 스마트폰 독자적으로 AI 기능을 수행할 수 있는 On-Device AI의 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상된다”라며, “실제 시뮬레이션 결과, 음성인식, 번역, 챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다”라고 말했다.

SK하이닉스도 미래 메모리 반도체 기술로 지능형 메모리인 AIM(Artificial intelligence in Memory)을 꼽으며 자체 PIM 기술개발을 준비 중임을 시사한 바 있다.

SK하이닉스 관계자는 녹색경제신문에 “아직 PIM 기술과 관련해서 공식 발표한 구체적인 내용은 없다”라면서도, “올 초 열린 세미콘 코리아에서 차선용 부사장이 언급했듯이 SK하이닉스는 AI 기술 기반의 지능형 메모리인 AIM 등 차세대 메모리 개발을 차근차근 준비하고 있다”라고 전했다.

올 2월 열린 세미콘 코리아에서 기조연설을 담당했던 차선용 SK하이닉스 부사장은 “AIM은 데이터가 전달되는 상황에 전력과 시간이 소모되는 만큼 연산 기능을 메모리 안에 넣는 개념”이라며, “현재 가장 빠른 조합은 GPU와 HBM의 조합으로, 10배 대역폭 개선이 가능하고 7배가량 전력 효율을 높일 수 있다”라고 언급했다.