AI 서버를 이야기할 때 GPU(그래픽 처리 장치) 성능, HBM(고대역폭 메모리) 용량, 네트워크 대역폭은 자주 언급됩니다. 그런데 요즘 데이터센터 설계에서는 냉각 방식이 이들과 같은 수준으로 중요해지고 있습니다.이는 스마트폰을 오래 쓰면 뜨거워지듯, 최신 AI 서버는 거대한 용광로와 같기 때문입니다. GPU 한 장의 전력 소모가 극심해지고 한 랙(Rack)에 들어가는 GPU 수가 늘어나면서, 열을 빼내는 방식 자체가 서버 구성의 한계가 되기 시작했습니다. 예를 들어 NVIDIA의 GB200 NVL72처럼 72개의 GPU를 하나의 랙 단위로 묶는 구조는 처음부터 액체냉각을 전제로 설계됩니다.IEA(국제에너지기구)도 데이터센터 전력 수요가 2024년 약 415TWh에서 2030년 약 945TWh로 폭증할..
