챗GPT 질문 한 번 하는데 생수 500미리 한통이 필요한 까닭은?

AI 가동 시키려면 다량의 이산화탄소 발생 전력 소모, 발열 식히기 위한 냉각수 필요 업계에서 이를 해소하기 위해 기술 개발중, 액체냉각 차세대 기술

2024-06-25     조아라 기자
[사진=unsplash]

[녹색경제신문 = 조아라 기자]

최근 AI가 산업계 전반에 활용도가 높아지면서 AI에 소모되는 자원에 대해서도 이목이 집중된다.

LLM(거대언어모델)과 같이 규모가 큰 AI일수록 여기에 소모되는 전력량과 수자원 역시 비례해서 증가하기 때문에 AI성능 뿐만 아니라 AI활용에 있어서 이같은 에너지 활용에 대한 사회적 해법이 필요하다는 지적도 나온다.

AI는 성능에 비례해 이에 소모되는 자원의 양도 증가한다. 단순히 사용자가 AI를 사용할 때뿐만 아니라 AI는 데이터 학습의 과정을 거쳐 성능이 향상되기 때문에 AI는 쉼없이 돌아가야 한다고 말해도 과언이 아니다.

대표적인 AI기업인 엔비디아의 경우 지난해 미국 경제전문지 ‘포천’은 엔비디아의 AI 서버가 2027년까지 연간 85.4테라와트시(TWh)의 전력을 소비할 것이라고 전망했다. 이같은 전력량은 스웨덴·아르헨티나 같은 국가의 에너지 사용량을 초과하는 규모다.

지난 2019년 미국 MIT 엠마 스트루벨 교수 연구진의 논문에 따르면 초거대 AI 모델 학습을 위해서는 약 62만6000파운드의 이산화탄소가 발생하는 것으로 알려졌다.

여기에 AI가 가동될 때 데이터센터에서 발생하는 열을 식히기 위해서는 대량의 냉각수 역시 필요하다.

미국 콜로라도 대학 연구 결과에 따르면 오픈AI의 챗GPT에 질문을 한 번 할 때마다 500ml의 생수가 소비된다.

업계 역시도 이같은 문제를 해결하기 위해 노력 중이다. 데이터센터에서 발생하는 전력과 발열을 잡기 위해서 업계에서 집중하는 기술은 ‘액체냉각’이다.

액체냉각은 전기가 통하지 않는 특수 냉각유를 활용, 데이터센터 내 서버를 식히는 방식이다. 공기로 열을 식히는 공랭식보다 전력 소모 및 운영 비용을 최적화할 수 있다.

엔비디아가 차세대 AI 칩 '블랙웰'을 기반으로 한 최신작 'B100' GPU(그래픽처리장치)를 액체냉각 기반으로 설계할 계획이다.

SK텔레콤의 경우 지난 2월 SK엔무브, 글로벌 액체냉각 전문기업 ‘아이소톱(Iceotope)’과 차세대 냉각 기술 및 솔루션 분야 협업을 위한 업무협약(MOU)을 체결한 바 있다.