AI가 물먹는 하마라고 불리는 것을 알고 있는가? 놀랍게도, ChatGPT에 50개 정도 질문을 하면, 물 500ml가 쓰인다. ChatGPT를 사용하는데, 왜 물이 필요하냐고? 고성능 AI 프로세서(GPU)가 24시간 작동하면서 발생하는 엄청난 고열을 제어하기 위해 냉각수가 필수적으로 사용된다. 이 냉각수는 열을 식히는 과정에서 날아가버리기 때문에, 계속 새로운 물을 넣어줘야 된다. 물론, 공기로 열을 식히는 방법도 있긴 한데, 공기로 식히면 전기를 더 많이 써야 한다는 딜레마가 발생한다. 이 때문에 데이터센터에는 끊임없이 새로운 물을 보충해줘야 한다.
그렇다면, GPT를 훈련시킬 때도 많은 물이 들지 않았을까? GPT3.5를 훈련시킬 때 대략 70만 리터의 물이 필요했다고 한다. 이보다 훨씬 똑똑한 GPT5의 경우 1,000만 리터 이상의 물이 소모됐다. 냉각을 위한 물이 이렇게 필요했다는 것은 당연히 전력 사용량이 그만큼 많았다는 거다. 2024년, 전 세계 수천 개의 데이터센터가 소비한 전력량은 415TWh로 대한민국이 1년 동안 쓰는 전력의 70%에 달하는 양이었다. 문제는 AI 수요 증가로 전력 소비량이 아주 빠르게 늘고 있다는 것이다. 국제에너지기구(IEA)의 보고서는 2030년까지 미국에서만 AI 수요를 위한 전력량이 미국 전체 전기 소비량을 넘어설 수도 있다고 경고했다. 더 심각한 것은 미국의 경우, 전력망 인프라의 대부분이 25년 이상 노후화되었고 핵심적인 업그레이드에 최소 10년이 걸릴 것으로 예상되어, 급증하는 전력 수요를 감당하지 못해 정전 사태까지 우려되는 상황이다.
이미지 출처: Gemini Imagen 4로 생성
지금 전세계는 데이터센터 전쟁 중이다, 미국이 압도적 1위를 차지하고 있고, 미국에는 대략 5,000여개의 데이터센터가 있다. 미국 외에 유럽, 중국이 전세계 데이터 센터의 85%를 차지하고 있다. 국내 데이터센터 시장 규모는 이미 작년에 6조 원을 돌파했으며, 연평균 13%씩 가파르게 성장하여 2028년에는 10조 2천억 원 규모로 약 2배 가까이 커질 전망이다. 급성장하는 AI 기술 시장에 발맞춰, 필수 인프라로서 데이터센터의 확충은 모든 국가가 사활을 걸고 경쟁을 펼치게 될 당연한 요소다.
이런 상황에서 전기를 더 빠르게, 많이 생산하기 위해서 구글, 아마존, 마이크로소프트 같은 빅테크 기업들은 원전에 눈을 돌리고 있다. 마이크로소프트는 폐쇄됐던 스리마일 아일랜드 원전을 다시 가동시키기로 했고, 구글과 아마zon은 소형 모듈 원자로(SMR)에 투자하고 있다. 하지만 소형 모듈 원자로에 이제 막 투자를 시작했기 때문에 데이터센터가 다 지어지려면 최소 몇 년은 걸리고, 원자력 시설을 짓고 허가를 받는 것까지 고려해도 시간이 꽤 걸린다.
전력 문제뿐만 아니라 물 부족 문제도 있다. 중형 데이터센터 하나가 연간 최대 약 4억 리터 이상의 물을 쓰는데, 약 1,000가구가 1년 동안 쓰는 양이다. 더 큰 데이터센터는 하루에 1,900만 리터, 연간 약 68억 리터를 마신다. 쉽게 상상이 안 갈텐데, 1만~5만 명 도시 하나가 쓰는 물의 양이 이 정도 된다. 미국 애리조나주 같은 경우 규모가 큰 데이터센터들이 몰려 있는데, 센터들이 엄청난 양의 물을 소비하다 보니, 지하수를 보존하겠다며 주택 건설을 제한한 적도 있다. 또한, 오리건주에서는 농민들이 구글을 상대로 물 문제로 소송을 제기하는 사례도 있었다. 데이터센터에서 사용하는 물은 부식 방지 등을 위해 깨끗한 식수를 사용하는 반면, 농민들이 쓰는 농업용수는 재활용수를 쓰는 경우가 많아 물 사용 우선순위에 대한 갈등이 생겨 서다.
물과 전기 문제를 해결하기 위해서 각 국가와 기업들이 찾은 해법은 해상 데이터센터다. 몇 년 전 마이크로소프트는 스코틀랜드 인근 해저에 데이터센터를 가라앉혔는데 800대 이상의 서버가 들어간 캡슐을 해저에 빠뜨리고 운영해보니, 고장률이 육상 센터보다 8분의 1이나 낮았다고 한다. 바다에 빠뜨리는 방법 말고 띄우는 방법도 있다. 물 위에 떠있다고 해서 플로팅 데이터센터라고 불리는데, 중국 같은 경우 하이난성 앞바다에 해상 데이터센터가 둥둥 떠있다. 냉각수를 주입하지 않아도 알아서 열이 식기 때문에, 육상 데이터센터보다 전력 소비를 훨씬 많이 줄일 수 있다고 한다. 또 해상풍력 같은 기술을 이용하면 재생에너지만으로 데이터센터를 돌릴 수 있다. 게다가 땅은 땅값도 비싸고 규제에 걸릴 수도 있지만 바다라는 공간은 사실상 제한이 없다는 장점도 있다. 국내에서도 해상 데이터센터에 대한 다양한 연구와 시도가 이어지고 있다. 최근 삼성과 삼성중공업, 그리고 오픈AI가 바디 위에 데이터센터를 띄우기로 했다. 또 2022년 이후 한국해양과학기술원 주도로 수중 데이터센터 기술이 개발되고 있고, 향후 울산 앞바다에 해저 데이터센터 단지 조성에 대한 계획이 발표되기도 했다.
해상 데이터센터가 언젠가는 대안이 될 수 있겠지만, 당장 데이터센터를 늘려야 하는 AI 대변혁 시대에 입지, 전력, 물 등 여러가지 복잡한 실타래를 풀기 위한 대안 마련이 시급하다.
우선 기존 데이터센터의 효율을 높이는 것이 중요하다. 냉각 시스템을 개선하거나, AI로 전력 소비를 최적화하는 기술들은 이미 상용화되어 있는데, 구글이나 메타 같은 기업들은 이런 방식으로 데이터센터 전력 사용량을 20~40%까지 줄이고 있다. 두 번째는 입지 다변화다. 모든 데이터센터를 한국에 지을 필요는 없다. 실제로 많은 글로벌 기업이 전력이 풍부하고 기후가 서늘한 북유럽이나 캐나다에 데이터센터를 분산 배치하고 있다. 한국 기업들도 당장 시급한 상황에서 해외 데이터센터를 활용하거나, 전략적 제휴를 맺어서 용량을 확보하는 방안을 고려해야 한다.
마지막으로 정부 차원의 지원 확대가 필요하다. 데이터센터 전용 전력망을 구축할 필요가 있고, 데이터센터를 운영하는 기업들이 재생에너지를 쓰면 인센티브를 제공하는 식으로 선택지를 넓혀줘야 한다, 또 현재 우리나라 같은 경우 데이터센터의 대부분이 수도권에 몰려 있는데, 정부에서 이 센터들을 분산시킬 수 있는 아이디어를 정책에 반영해야 한다. 냉각에 유리한 제주도, 강원도 같은 지역에 인프라 지원이나 세제 혜택으로 기업들이 자발적으로 움직이게 만드는 것이 한 방안이 될 수 있다.
향후 데이터센터는 AI 시대 핵심 인프라이자 국가 기간 산업으로서 그 중요성이 더욱 부각될 것이다. 이제 본격적으로 데이터센터 확충과 이에 필수적인 에너지 문제 등 제반 사항에 대한 논의가 시작되어야 할 것이다.
AI가 물먹는 하마라고 불리는 것을 알고 있는가? 놀랍게도, ChatGPT에 50개 정도 질문을 하면, 물 500ml가 쓰인다. ChatGPT를 사용하는데, 왜 물이 필요하냐고? 고성능 AI 프로세서(GPU)가 24시간 작동하면서 발생하는 엄청난 고열을 제어하기 위해 냉각수가 필수적으로 사용된다. 이 냉각수는 열을 식히는 과정에서 날아가버리기 때문에, 계속 새로운 물을 넣어줘야 된다. 물론, 공기로 열을 식히는 방법도 있긴 한데, 공기로 식히면 전기를 더 많이 써야 한다는 딜레마가 발생한다. 이 때문에 데이터센터에는 끊임없이 새로운 물을 보충해줘야 한다.
그렇다면, GPT를 훈련시킬 때도 많은 물이 들지 않았을까? GPT3.5를 훈련시킬 때 대략 70만 리터의 물이 필요했다고 한다. 이보다 훨씬 똑똑한 GPT5의 경우 1,000만 리터 이상의 물이 소모됐다. 냉각을 위한 물이 이렇게 필요했다는 것은 당연히 전력 사용량이 그만큼 많았다는 거다. 2024년, 전 세계 수천 개의 데이터센터가 소비한 전력량은 415TWh로 대한민국이 1년 동안 쓰는 전력의 70%에 달하는 양이었다. 문제는 AI 수요 증가로 전력 소비량이 아주 빠르게 늘고 있다는 것이다. 국제에너지기구(IEA)의 보고서는 2030년까지 미국에서만 AI 수요를 위한 전력량이 미국 전체 전기 소비량을 넘어설 수도 있다고 경고했다. 더 심각한 것은 미국의 경우, 전력망 인프라의 대부분이 25년 이상 노후화되었고 핵심적인 업그레이드에 최소 10년이 걸릴 것으로 예상되어, 급증하는 전력 수요를 감당하지 못해 정전 사태까지 우려되는 상황이다.
이미지 출처: Gemini Imagen 4로 생성
지금 전세계는 데이터센터 전쟁 중이다, 미국이 압도적 1위를 차지하고 있고, 미국에는 대략 5,000여개의 데이터센터가 있다. 미국 외에 유럽, 중국이 전세계 데이터 센터의 85%를 차지하고 있다. 국내 데이터센터 시장 규모는 이미 작년에 6조 원을 돌파했으며, 연평균 13%씩 가파르게 성장하여 2028년에는 10조 2천억 원 규모로 약 2배 가까이 커질 전망이다. 급성장하는 AI 기술 시장에 발맞춰, 필수 인프라로서 데이터센터의 확충은 모든 국가가 사활을 걸고 경쟁을 펼치게 될 당연한 요소다.
이런 상황에서 전기를 더 빠르게, 많이 생산하기 위해서 구글, 아마존, 마이크로소프트 같은 빅테크 기업들은 원전에 눈을 돌리고 있다. 마이크로소프트는 폐쇄됐던 스리마일 아일랜드 원전을 다시 가동시키기로 했고, 구글과 아마zon은 소형 모듈 원자로(SMR)에 투자하고 있다. 하지만 소형 모듈 원자로에 이제 막 투자를 시작했기 때문에 데이터센터가 다 지어지려면 최소 몇 년은 걸리고, 원자력 시설을 짓고 허가를 받는 것까지 고려해도 시간이 꽤 걸린다.
전력 문제뿐만 아니라 물 부족 문제도 있다. 중형 데이터센터 하나가 연간 최대 약 4억 리터 이상의 물을 쓰는데, 약 1,000가구가 1년 동안 쓰는 양이다. 더 큰 데이터센터는 하루에 1,900만 리터, 연간 약 68억 리터를 마신다. 쉽게 상상이 안 갈텐데, 1만~5만 명 도시 하나가 쓰는 물의 양이 이 정도 된다. 미국 애리조나주 같은 경우 규모가 큰 데이터센터들이 몰려 있는데, 센터들이 엄청난 양의 물을 소비하다 보니, 지하수를 보존하겠다며 주택 건설을 제한한 적도 있다. 또한, 오리건주에서는 농민들이 구글을 상대로 물 문제로 소송을 제기하는 사례도 있었다. 데이터센터에서 사용하는 물은 부식 방지 등을 위해 깨끗한 식수를 사용하는 반면, 농민들이 쓰는 농업용수는 재활용수를 쓰는 경우가 많아 물 사용 우선순위에 대한 갈등이 생겨 서다.
물과 전기 문제를 해결하기 위해서 각 국가와 기업들이 찾은 해법은 해상 데이터센터다. 몇 년 전 마이크로소프트는 스코틀랜드 인근 해저에 데이터센터를 가라앉혔는데 800대 이상의 서버가 들어간 캡슐을 해저에 빠뜨리고 운영해보니, 고장률이 육상 센터보다 8분의 1이나 낮았다고 한다. 바다에 빠뜨리는 방법 말고 띄우는 방법도 있다. 물 위에 떠있다고 해서 플로팅 데이터센터라고 불리는데, 중국 같은 경우 하이난성 앞바다에 해상 데이터센터가 둥둥 떠있다. 냉각수를 주입하지 않아도 알아서 열이 식기 때문에, 육상 데이터센터보다 전력 소비를 훨씬 많이 줄일 수 있다고 한다. 또 해상풍력 같은 기술을 이용하면 재생에너지만으로 데이터센터를 돌릴 수 있다. 게다가 땅은 땅값도 비싸고 규제에 걸릴 수도 있지만 바다라는 공간은 사실상 제한이 없다는 장점도 있다. 국내에서도 해상 데이터센터에 대한 다양한 연구와 시도가 이어지고 있다. 최근 삼성과 삼성중공업, 그리고 오픈AI가 바디 위에 데이터센터를 띄우기로 했다. 또 2022년 이후 한국해양과학기술원 주도로 수중 데이터센터 기술이 개발되고 있고, 향후 울산 앞바다에 해저 데이터센터 단지 조성에 대한 계획이 발표되기도 했다.
해상 데이터센터가 언젠가는 대안이 될 수 있겠지만, 당장 데이터센터를 늘려야 하는 AI 대변혁 시대에 입지, 전력, 물 등 여러가지 복잡한 실타래를 풀기 위한 대안 마련이 시급하다.
우선 기존 데이터센터의 효율을 높이는 것이 중요하다. 냉각 시스템을 개선하거나, AI로 전력 소비를 최적화하는 기술들은 이미 상용화되어 있는데, 구글이나 메타 같은 기업들은 이런 방식으로 데이터센터 전력 사용량을 20~40%까지 줄이고 있다. 두 번째는 입지 다변화다. 모든 데이터센터를 한국에 지을 필요는 없다. 실제로 많은 글로벌 기업이 전력이 풍부하고 기후가 서늘한 북유럽이나 캐나다에 데이터센터를 분산 배치하고 있다. 한국 기업들도 당장 시급한 상황에서 해외 데이터센터를 활용하거나, 전략적 제휴를 맺어서 용량을 확보하는 방안을 고려해야 한다.
마지막으로 정부 차원의 지원 확대가 필요하다. 데이터센터 전용 전력망을 구축할 필요가 있고, 데이터센터를 운영하는 기업들이 재생에너지를 쓰면 인센티브를 제공하는 식으로 선택지를 넓혀줘야 한다, 또 현재 우리나라 같은 경우 데이터센터의 대부분이 수도권에 몰려 있는데, 정부에서 이 센터들을 분산시킬 수 있는 아이디어를 정책에 반영해야 한다. 냉각에 유리한 제주도, 강원도 같은 지역에 인프라 지원이나 세제 혜택으로 기업들이 자발적으로 움직이게 만드는 것이 한 방안이 될 수 있다.
향후 데이터센터는 AI 시대 핵심 인프라이자 국가 기간 산업으로서 그 중요성이 더욱 부각될 것이다. 이제 본격적으로 데이터센터 확충과 이에 필수적인 에너지 문제 등 제반 사항에 대한 논의가 시작되어야 할 것이다.