KT가 미래 핵심 사업으로 꼽히는 AI(인공지능) 연구개발 활성화를 위해 자사의 IDC(인터넷데이터센터) 역량을 활용한다.

테라급 백본망을 갖춘 IDC와 AI 모델 학습·추론에 최적화된 IPU(지능형처리장치)를 활용해, AI 연구를 위한 최적의 인프라를 제공하는 'KT 하이퍼스케일 AI 서비스'를 선보일 계획이다.

김상곤 KT IDC사업담당 상무는 "많은 기업·기관이 대규모 AI 연구개발에 관심을 가지면서도 고비용의 투자 때문에 진행을 망설이고 있는 것이 현실"이라며 "해당 서비스를 통해 별도의 인프라 구축 없이 효율적으로 연구를 진행할 수 있을 것으로 기대한다"고 전했다.

지난 8일 KT는 서울 종로구의 한 회의실에서 기자들을 만나 이 같은 내용의 사업 계획을 발표했다.

KT 하이퍼스케일 AI 서비스는 AI 컴퓨팅 파워, 개발자 툴킷, 운영 컨설팅, 데이터센터 등 AI 연구개발에 필요한 인프라를 통합적으로 제공하는 솔루션이다. 현재 사용 중인 표준 머신러닝 개발 프레임워크를 모두 지원하며, 관련된 라이브러리 또한 무상으로 제공한다.

특히 KT는 빠르고 안전하게 대규모 AI 연산을 처리할 수 있도록 그래프코어사의 IPU를 도입했다. IPU는 기존 데이터센터에서 활용되는 GPU(그래픽처리장치)와 달리 병렬처리에 최적화된 AI 전용 프로세스 칩이다.

미국 퍼듀대 연구에 따르면 IPU는 기존 AI 인프라 대비 계산 효율성과 메모리 확장성이 2~16배 높다. 또한 GPU 기반의 동일 구성에 비해 비용이 60% 이상 저렴하며 에너지 효율성도 40~80% 가량 뛰어난 것으로 나타났다.

여기에 협력사인 메가존클라우드는 KT와 함께 기존 보유한 AI 모델링을 IPU로 최적화하거나 더 빠르게 추론할 수 있는 AI 모델로 개선하는 컨설팅 서비스를 제공한다.

한지운 메가존클라우드 Hybrid & AI 플랫폼 센터 상무는 "실제 고객사들을 대상으로 IPU를 기반으로 한 컨설팅을 진행했는데, 솔루션에서 GPU 대비 3.6배 가량 성능이 더 뛰어난 것으로 측정됐다"며 "연산 처리 속도도 빨라 고객사들이 만족감을 나타냈다"고 설명했다.

자사 IDC 사업 역량 더해 서비스 경쟁력 자신…에너지 문제에는 "전력 효율 높아"

아울러 양사는 분당 등 수도권을 중심으로 KT의 IDC에 '하이퍼스케일 AI존'을 구축했으며, 향후 다른 지역의 IDC에도 확대 적용할 계획이다. 해외 기업들의 관심이 높은 부산 지역이 차기 후보지로 거론됐다.

하이퍼스케일 AI존은 KT의 데이터센터를 기반으로 AI 연구개발에 필요한 고집적 및 대용량 데이터를 처리해주는 서비스다. 국내 최대 테라급 백본망을 갖춘 인프라와 20년 넘게 쌓아온 IDC 사업 역량으로 데이터를 안전하고 효율적으로 관리할 수 있다는 것이 KT의 설명이다.

이날 사업에 대한 설명을 맡은 손찬혁 KT IDC사업팀장은 "KT는 국내 최대 규모인 14개 데이터센터 운영을 통해 IDC 사업의 핵심 요소인 안정적인 네트워크 서비스, 물리적 보안 시스템 등을 갖춰왔다"며 "AI 연구개발을 위한 고성능 컴퓨팅 수요가 늘어나는 상황에서 맞춰 해당 서비스를 선보이게 됐다"고 밝혔다.

이어 "대용량의 AI 연구개발 인프라 구축 서비스를 진행하는 것은 KT가 국내에서 처음"이라며 "대규모 AI 연산에 최적화된 IPU를 도입해 연구기관 및 대기업이 합리적인 가격으로 연구를 진행할 수 있을 것으로 기대한다"고 덧붙였다.

24시간 고전력으로 가동되는 IDC의 특성 상 제기되는 에너지 소비 문제에 대해서도 설명했다. 

손 팀장은 "IDC가 이른바 '전력 먹는 하마'라는 말을 듣기는 하지만 자체 전산센터를 운영하는 경우 PUE(전력사용효율)가 2.0인 데 반해 KT IDC는 1.4~1.6 수준"이라며 "IDC를 활용하는 것이 전력을 아낄 수 있다"고 전했다.

PUE는 데이터센터 총 전력량을 IT장비 전력량으로 나눈 값으로, 1에 가까울수록 전력 효율이 좋다. 이외에도 KT AI 솔루션과 냉수식 프리쿨링, 냉수식 항온기 등을 통해 IDC에 에너지 절감 솔루션을 진행하고 있다.