시총 846조 날린 ‘딥시크-R1’ 품은 엔비디아...GPU 의존도 하락 전망에 “입장 없다”

[녹색경제신문 = 문슬예 기자] 엔비디아가 딥시크-R1을 자사의 NIM 마이크로서비스 프리뷰로 제공하기로 했다. R1은 AI 시장의 GPU 의존도 하락 가능성을 시사하며 엔비디아의 주가 폭락을 야기한 중국 AI 스타트업 딥시크의 AI 모델이다. 한편, 엔비디아는 GPU 의존도 하락 전망에 대해 공식적인 답변이 없다는 입장을 전했다. 

엔비디아는 지난달 30일 공식 블로그를 통해 자사의 NIM 마이크로서비스 프리뷰에서 딥시크-R1 지원을 시작한다고 밝혔다. 

엔비디아는 “R1은 논리적 추론, 사고, 수학, 코딩, 언어 이해 등이 필요한 작업에 대해 최고의 정확도를 제공하는 동시에 높은 추론 효율성을 제공한다”며 “개발자가 이러한 기능을 안전하게 실험하고 자신만의 전문 에이전트를 구축할 수 있도록 R1을 엔비디아 NIM 마이크로서비스 프리뷰로 제공하고 있다”고 말했다. 

엔비디아가 ‘딥시크 돌풍’에 타격을 입었음에도 최첨단 오픈 AI 모델을 이용자에게 제공하기 위해 R1 서비스 도입을 결정한 것으로 풀이된다. 

앞서 딥시크는 지난달 20일 엔비디아의 저사양 프로세서 H800으로 학습시킨 R1을 공개했다. 해당 소식이 알려지며 엔비디아 주가는 지난 27일 하루 만에 16.97% 폭락해 시가총액 846조원이 줄었다. 그간 AI 개발에 필수적으로 여겨졌던 고비용 고사양 프로세서 활용 패러다임에 균열이 생기며 GPU 공급 업체인 엔비디아가 타격을 입은 것이다. 

다만 엔비디아는 딥시크-R1의 등장 이후 제기되고 있는 GPU 의존도 하락 전망에 대해 공식적인 답변이 없다는 입장을 전했다. 

한편, 엔비디아는 딥시크-R1 NIM 마이크로서비스가 엔비디아의 고사양 GPU인 H200이 장착된 서버에서 실행된다고 강조했다. 

엔비디아는 “R1에서 실시간 답변을 제공하려면 높은 컴퓨팅 성능을 갖춘 다량의 GPU가 필요하다”며 “엔비디아 NIM 마이크로서비스에서 제공되는 소프트웨어 최적화와 결합한 8개의 H200 GPU가 장착된 단일 서버는 초당 최대 3872개의 토큰으로 6710억 개의 파라미터로 구성된 전체 딥시크-R1 모델을 실행할 수 있다”고 말했다. 

엔비디아에 따르면 딥시크-R1은 거대 전문가 조합 방식(Mixture-Of-Experts, MoE) 모델로, 레이어당 256명의 전문가를 활용한다. 각각의 토큰은 평가를 위해 8명의 별도 전문가에게 병렬로 라우팅된다. 

엔비디아는 R1이 모든 전문가에게 신속하게 토큰을 라우팅하기 위해서 높은 대역폭과 짧은 지연 시간의 통신으로 연결된 고성능 GPU가 필요하다고 설명했다.