AI 데이터센터는 왜 물을 그렇게 많이 사용할까?

AI 워크로드는 물리적 서버에서 실행됩니다. GPU, CPU, 메모리, 스토리지 및 네트워킹 장비가 전력을 소비하면, 그 전기 에너지의 거의 전부가 결국 데이터센터 내부에서 열로 변환됩니다.

일반적인 웹 서버는 가벼운 요청을 처리할 수 있지만, AI 훈련 및 추론 작업은 가속기를 장기간 높은 가동률로 계속 가동하게 만들 수 있습니다. 빽빽하게 채워진 GPU 랙은 기존의 기업용 IT 장비보다 훨씬 좁은 공간에 더 많은 열을 집중시킵니다.

따라서 냉각은 단순히 선택적인 편의 시스템이 아닙니다. 이는 칩을 안전한 작동 온도 범위 내로 유지하고, 스로틀링을 방지하며, 하드웨어를 보호하고, 사용자에게 안정적인 서비스를 제공하기 위해 필요한 인프라의 일부입니다.

현대적인 AI 데이터센터에서는 대개 수천 개의 GPU를 클러스터로 묶어 운영합니다. 이러한 GPU는 병렬 연산을 위해 설계되었기 때문에, 신경망 훈련 및 추론 워크로드 처리에 매우 유용합니다.

AI 인프라를 강력하게 만드는 바로 그 밀도가 열적 부담도 야기합니다. 랙당 가속기 수가 늘어나면 전력 공급량, 네트워킹, 메모리 용량이 증가할 뿐만 아니라 서버에서 배출해야 할 열량도 늘어납니다.

이 때문에 AI 데이터센터는 전력 공급과 냉각 용량 모두와 밀접한 관련이 있습니다. 특정 부지가 충분한 부지 면적이나 광섬유 연결망을 갖추고 있더라도, 가용 전력, 열 배출 용량 또는 지역 내 용수 문제 등으로 인해 제약을 받을 수 있습니다.

물은 열을 효율적으로 전달할 수 있기 때문에 냉각에 유용합니다. 많은 데이터센터에서는 외부 환경에 따라 냉각수 순환 시스템, 냉각탑, 증발 냉각 방식 또는 공기와 물을 결합한 하이브리드 시스템을 사용합니다.

증발식 냉각 시스템에서는 열을 제거하기 위해 일부 물을 의도적으로 증발시킵니다. 이는 특히 더운 날씨에 냉동기를 과도하게 가동하는 경우와 비교할 때 기계적 냉각에 필요한 전력 소비를 줄일 수 있지만, 해당 지역의 물 소비량은 증가시킬 수 있습니다.

모든 데이터 센터가 동일한 설계를 사용하는 것은 아닙니다. 일부 시설은 공기 냉각에 더 많이 의존하고, 일부는 칩 근처에서 폐쇄형 순환 수냉 방식을 사용하며, 또 다른 일부는 재이용수나 비음용수를 사용합니다. 물 발자국은 냉각 아키텍처, 기후 및 운영 전략에 따라 달라집니다.

직접 용수 사용이란 데이터센터 현장에서 소비되는 물을 의미하며, 주로 냉각이나 습도 조절에 사용됩니다. 특히 물 부족 지역에서 시설이 증발 냉각 방식을 사용할 때, 이는 이 문제에서 가장 눈에 띄는 부분입니다.

간접적인 물 사용도 중요한 요소가 될 수 있습니다. 전력 생산 과정에서는 지역 전력망 상황에 따라 발전소 냉각이나 연료 생산을 위해 물이 필요할 수 있습니다. 현장에서는 물을 거의 사용하지 않는 데이터센터라도, 소비하는 전기를 통해 물 사용과 간접적으로 연관될 수 있습니다.

이것이 바로 대중의 추정치가 크게 엇갈리는 이유 중 하나입니다. 신중한 평가를 위해서는 현장 용수, 공급망 용수, 전력 관련 용수, 취수량, 소비량 중 어느 것을 포함하는지, 아니면 이 모든 범주를 포괄하는지 명확히 명시해야 합니다.

시원하고 물이 풍부한 지역에서 소비되는 물 1리터는, 수자원 부족에 시달리는 덥고 건조한 지역에서 소비되는 물 1리터와 같은 지역적 영향을 미치지 않습니다. 따라서 동일한 냉각 기술이라도 지역에 따라 그 결과가 크게 달라질 수 있습니다.

기후는 자연 냉각, 증발 냉각 또는 기계식 냉각의 사용 빈도에 영향을 미칩니다. 전력 공급 구성은 탄소 배출량에 영향을 미칩니다. 지역의 수자원 가용성은 추가 수요가 미미한지, 논란의 여지가 있는지, 아니면 운영상 어려움이 있는지에 영향을 미칩니다.

이것이 바로 데이터센터의 지속가능성을 하나의 전 세계적인 수치로만 환산할 수 없는 이유입니다. 중요한 질문은 단순히 물이 얼마나 사용되었는지가 아니라, 어디에서, 언제 사용되었는지, 그리고 어떤 대체 냉각 또는 전력 옵션이 있었는지에 있습니다.

물 사용량을 줄이면 때로는 전력 사용량이 늘어날 수 있습니다. 예를 들어, 증발 냉각을 사용하지 않는 설계의 경우 기계식 냉동기에 더 많이 의존하게 되어, 더운 시기에는 에너지 수요가 증가할 수 있습니다.

반대의 경우도 발생할 수 있습니다. 즉, 증발 냉각에 물을 사용하면 전력 소비를 줄일 수 있으며, 전력망의 탄소 집약도가 높은 경우 이에 따라 배출량도 감소할 수 있습니다. 어떤 방식이 더 나은지는 지역의 물 부족 상황, 전력망의 탄소 집약도, 기상 조건 및 하드웨어 밀도에 따라 달라집니다.

이것이 바로 투명한 보고가 중요한 이유입니다. 에너지 효율을 나타내는 PUE나 물 사용 효율을 나타내는 WUE와 같은 지표는 유용하지만, 이를 평가할 때는 현지 상황을 고려해야 합니다. 물 사용량이 적은 설계가 반드시 저탄소 설계인 것은 아니며, 에너지 소비가 적은 설계가 반드시 물 사용량이 적은 설계인 것도 아닙니다.

네, 하지만 만능 해결책은 없습니다. 해결 방안으로는 공기 흐름 관리 개선, 작동 온도 상향, 폐쇄형 수냉 시스템, 건식 냉각기, 재이용수, 비음용수 활용, 부지 선정 최적화, 그리고 더 효율적인 AI 하드웨어 도입 등이 있습니다.

AI 모델 최적화도 중요합니다. 모델 규모를 줄이고, 효율적인 추론을 수행하며, 배치 처리, 캐싱 및 하드웨어 특화 기술을 활용하면 특정 서비스에 필요한 연산 부하를 줄일 수 있으며, 이는 간접적으로 발열량과 냉각 요구 사항을 감소시킵니다.

동시에, AI 활용이 효율성 향상보다 더 빠르게 확대된다면 총 수요는 여전히 증가할 수 있다. 따라서 실질적인 목표는 냉각 효율을 높이는 것뿐만 아니라, 정보 공개를 강화하고, 지역별 물 부족 상황을 고려한 신중한 부지 선정 및 인프라 계획을 수립하는 데 있다.