오라클-AMD, MI355X GPU로 대규모 AI 클라우드 제공

[녹색경제신문 = 문슬예 기자] 오라클과 AMD가 오라클 클라우드 인프라스트럭처(OCI)에 AMD 인스팅트(AMD Instinct™) MI355X GPU를 활용한 제타스케일 AI 클러스터 제공 계획을 발표했다. 이번 협력을 통해 오라클은 최대 13만1072개의 MI355X GPU를 지원하는 대규모 AI 슈퍼컴퓨터를 제공한다는 방침이다. 

23일 오라클은 AMD 인스팅트 MI355X GPU를 기반으로 한 제타스케일 AI 클러스터를 통해 대규모 AI 워크로드를 지원한다고 밝혔다. 

OCI의 제타스케일 슈퍼클러스터는 최대 13만1072개의 MI355X GPU를 지원하는 초저지연 RDMA 클러스터 네트워크 아키텍처를 기반으로 한다. 랙당 125킬로와트의 고밀도 수냉식 설계와 64개 GPU(각 1400와트)를 통해 빠른 훈련 시간과 높은 처리량을 보장한다. 

AMD의 MI355X GPU는 이전 세대 대비 최대 2.8배 향상된 처리량, 3배 높은 컴퓨팅 성능, 50% 증가한 메모리 대역폭(최대 8TB HBM3)을 제공하며, 새로운 FP4 부동 소수점 표준을 지원한다. 이를 통해 사용자는 더 빠른 결과, 낮은 지연 시간, 그리고 대규모 언어 모델(LLM) 및 에이전틱 애플리케이션 실행에 최적화된 성능을 경험할 수 있다.

또한 AMD 폴라라(Pollara™) AI NIC를 활용한 백엔드 네트워크는 고급 RoCE 기능과 울트라 이더넷 컨소시엄(UEC) 표준을 지원한다. 이를 통해 프로그래밍 가능한 혼잡 제어 및 울트라 이더넷 컨소시엄(UEC)의 개방형 산업 표준 지원을 포함한 고급 RoCE 기능을 제공해 고성능 저지연 네트워크를 실현한다.

마헤쉬 티아가라얀 OCI 총괄 부사장은 "양사는 클라우드에서 가장 까다로운 AI 워크로드를 실행하는 고객을 지원할 수 있는 가장 광범위한 AI 인프라 제품을 제공하기 위해 노력하고 있다”며 “OCI가 제공하는 성능과 앞선 네트워킹, 유연성, 보안, 규모와 결합된 AMD 인스팅트 GPU는 AI 워크로드 및 새로운 에이전틱 애플리케이션에 대한 추론 및 훈련 요구사항을 충족하는 데 기여할 것”이라고 말했다.

포레스트 노로드 AMD 데이터센터 솔루션 비즈니스 그룹 총괄 부사장 겸 총괄 매니저는 "AMD와 오라클은 고성능, 효율성, 시스템 설계 유연성 향상을 위한 개방형 솔루션을 제공해 왔다”며 “OCI의 최신 세대 AMD 인스팅트 GPU 및 폴라라(Pollara) NIC는 새로운 추론과 미세 조정, 훈련 사용 사례를 지원하며 AI 채택이 확대됨에 따라 고객에게 더 많은 선택권을 제공할 것"이라고 말했다.