[현장] “HBM, 계속 가격 상승할 것…단기적 하락은 가능”

[녹색경제신문 = 문슬예 기자] 수원컨벤션센터에서 열린 ‘2025 반도체 패키징 트렌드 포럼’에서 기조연설을 맡은 김정호 카이스트 교수가 HBM 가격이 중장기적으로 상승 흐름을 나타낼 것이라고 밝혔다. 인공지능(AI)의 확산과 함께 HBM(고대역폭메모리)의 중요성이 지속적으로 커질 것이라는 입장이다.

27일 김정호 교수는 HBM 가격 전망에 대해 “일시적으로 가격 조정이 있을 수 있지만, 중장기적으로 오히려 상승할 것”이라는 견해를 밝혔다. 

앞서 업계 일각에서는 마이크론의 생산능력 증설, 삼성전자의 파운드리를 통한 원가 경쟁력, 중국 신생 업체들의 진입을 근거로 HBM이 가격 하락 국면에 접어들었다는 분석이 제기돼 왔다.

그러나 김 교수는 이러한 전망과 달리 HBM의 수요와 가치는 오히려 장기적으로 커질 것이라고 주장했다. 

김 교수에 따르면 AI 기술은 단순한 지시 수행을 넘어 추론·자율적 의사결정 단계로 진화하면서 처리해야 하는 토큰 수가 기하급수적으로 늘어난다. 이 과정에서 데이터 요구량은 수십 배에서 수천 배까지 확대되고, 결국 HBM의 용량과 대역폭도 지금보다 1000배 이상 확대가 불가피하다는 분석이다. 

이러한 흐름 속에서 HBM은 AI 성능을 결정짓는 연산 병목 해소의 핵심 자원으로 중요성이 커질 수밖에 없다는 입장이다.

특히 김 교수는 폰노이만 아키텍처의 구조적 한계로, 차세대 메모리로 불리는 PIM(Processing in Memory) 전환에 회의적인 입장을 보였다. CPU·GPU와 메모리가 분리된 기존 구조가 유지될 수밖에 없다는 의견이다.

그는 “연산과 데이터 저장을 완전히 결합하면 가격 경쟁력도 없고 두 가지 장점을 모두 잃는다”며 “메모리 안에 프로세스를 넣으면 속도가 안 나오고 프로세스 안에 메모리를 넣으면 용량이 안 나온다”고 말했다. 

김 교수는 이어 HBM의 기술적 진화 방향도 제시했다. 

그는 “I/O 인터커넥션 수는 HBM3 1024개에서 HBM4 2048개, 경우에 따라 4096개까지 고객이 요구하고 있다”며 “장기적으로 10만 개 수준까지 확대될 것”이라고 말했다. 

또한 “HBM 적층 높이가 24단을 넘어가면 구조적 한계에 부딪히기 때문에 향후 단일 스택이 아니라 여러 개가 모여 아파트 단지처럼 구성되는 형태로 발전할 것”이라고 덧붙였다. 

아울러 DRAM만으로는 용량을 감당하기 어렵기 때문에, LPDDR이나 NAND 기반 HBF(High Bandwidth Flash), 그리고 CXL 기반 메모리 네트워크 등 보조 메모리가 GPU 주변에 함께 배치되는 방식이 확대될 것이라고도 전망했다.