파두, ‘1억 IOPS’ 겨냥…엔비디아가 요구한 SSD 병목 푸는 법
“AI 병목, SSD 지점 해결해야” 엔비디아 1억 IOPS 요구 부상
[녹색경제신문 = 문슬예 기자] “제너럴 컴퓨팅 시대는 끝났습니다. 이제는 GPU 옆이 아니라, GPU가 필요로 하는 데이터가 SSD 사이를 왕복하는 구간에서 전체 속도가 결정됩니다.”
남이현 파두 CTO겸 대표이사는 4일 서울 강남구 파두 본사에서 개최된 기자간담회에서 데이터 병목 지점을 이렇게 규정했다. GPU·HBM 대역폭이 수백GB/s 수준까지 확대된 반면, SSD 기반 스토리지의 I/O 성능은 16GB/s 수준에 머물며 전체 AI 파이프라인의 ‘가장 느린 단계’가 되고 있다는 분석이다.
남 CTO는 “AI가 처리해야 하는 데이터가 커질수록 HBM과 DRAM에 다 수용하지 못한 데이터가 결국 SSD를 경유하게 되고, 이 구간을 어떻게 최적화하느냐가 시스템 처리량과 속도를 좌우한다”고 말했다.
AI 시대 SSD의 위상도 달라지고 있다. 엔비디아는 최근 ‘1억 IOPS’ 수준의 스토리지를 요구하며 스토리지 병목 해결을 주요 과제로 올렸다. 현재 업계 최고 수준이 600만~1000만 IOPS인 점을 고려하면, 약 10배 이상의 도약을 주문한 셈이다.
파두가 창업 초기부터 SSD 컨트롤러를 핵심 사업으로 택한 것도 이런 구조적 병목을 정면으로 겨냥하기 위해서다. 공정 미세화만으로 성능을 끌어올리던 시대가 끝나면서, 도메인 특화 하드웨어 아키텍처 혁신 없이는 경쟁력이 나오기 어렵다는 판단이었다.
남 CTO는 낸드 기반 SSD를 수명 제한·데이터 보존 오류 등 ‘어처구니없는 단점’을 컨트롤러와 소프트웨어가 떠안아야 하는 메모리라고 지적했다. 동시에 AI 데이터센터는 이제 ‘최대 성능’보다 전력·발열까지 함께 관리하는 것을 중시한다.
남 CTO는 “하이퍼스케일러가 SSD 하나당 제한 전력을 정해놓고 그 안에서 최대 성능을 뽑아달라고 요구하는 시대”라며 “결국 낸드에 최대 전력을 배분하기 위해 컨트롤러 전력은 극단적으로 줄이면서도 유연성을 유지해야 한다”고 설명했다.
이에 파두는 다수의 CPU 코어와 복잡한 소프트웨어에 의존하는 기존 컨트롤러 대신, 소프트웨어 연산 중 반복되는 연산을 하드웨어 가속기로 뽑아내고 이를 프로그래머블 구조로 설계하는 방식을 채택했다. Arm·시높시스 등에서 기성 IP를 사다 조립하는 대신 핵심 IP를 자체 설계해, 전력 소모를 줄이면서도 모든 낸드 벤더·고객 요구를 소프트웨어로 커버할 수 있는 범용성을 확보했다는 게 파두 측 설명이다.
내년 초 출시 예정인 PCIe Gen6 SSD 컨트롤러는 해당 아키텍처의 가장 진보된 버전이다. 경쟁사(4·5나노) 대비 구형 노드(6나노) 공정을 활용했음에도, 더 뛰어난 성능을 제공한다. Gen5 대비해서는 성능과 전성비 모두 두 배 이상 개선됐다.
파두의 장기 비전은 ‘한국형 풀스택 빅테크 기업’의 빈칸을 메우는 것이다.
남 CTO는 “애플·테슬라·아마존·구글은 서비스부터 CPU·NPU·SSD까지 풀스택을 안에 쥔 수직화 구조를 갖고 있지만, 한국에는 이런 기업이 없다”며 “우리나라는 메모리·디바이스는 강하지만 그 위·아래 레이어에는 큰 블랭크가 있고 파두는 이 공백에서 할 수 있는 일을 찾고 있다”고 말했다.
현재는 SSD 컨트롤러·전력반도체·고속 인터페이스 칩 등 ‘바텀’ 영역을 강화하면서, 상위 서비스·소프트웨어 기업과 협력해 탑다운 요구사항을 맞춰가는 방식으로 수직화 기반을 쌓겠다는 방침이다.