엔비디아(NVIDIA)는 최근 AI 데이터센터의 고질적인 발열 문제를 해결하기 위한 혁신적인 액체 냉각 기술을 공개했습니다. 이 기술은 무려 45°C의 고온에서도 서버를 효율적으로 냉각할 수 있어, 기존의 저온 냉각 방식이 가진 한계를 뛰어넘는다는 점에서 주목받고 있습니다. 이는 AI 칩의 성능이 기하급수적으로 향상되면서 발생하는 막대한 열을 제어하는 데 필수적인 진전으로 평가됩니다.
새로운 액체 냉각 시스템은 엔비디아의 차세대 AI 칩인 블랙웰(Blackwell) 아키텍처 기반의 GB200 NVL72 시스템에 적용될 예정입니다. 이 시스템은 72개의 블랙웰 GPU와 36개의 그레이스(Grace) CPU를 통합하여 단일 액체 냉각 랙에 담는데, 이는 엄청난 컴퓨팅 밀도를 의미합니다. 45°C의 고온에서 냉각이 가능하다는 것은 데이터센터 냉각에 필요한 에너지 소비를 크게 줄이고, 냉각 인프라 구축 비용 또한 절감할 수 있음을 시사합니다. 또한, 냉각수가 더 높은 온도로 배출되므로, 이 폐열을 난방 등 다른 용도로 재활용할 가능성도 열립니다.
이 기술은 AI 시대의 지속 가능한 데이터센터 운영에 중요한 전환점이 될 것입니다. AI 모델의 복잡성이 증가하고 학습 및 추론(inference)에 필요한 컴퓨팅 자원이 폭증하면서, 전력 소비와 발열은 데이터센터 운영의 가장 큰 걸림돌이 되어왔습니다. 엔비디아의 고온 액체 냉각 기술은 이러한 문제를 해결하여, 기업들이 더 적은 공간과 에너지로 더 많은 AI 컴퓨팅 파워를 확보할 수 있도록 돕습니다. 이는 결국 AI 기술의 발전 속도를 가속화하고, 더 광범위한 산업 분야에서 AI 도입을 촉진하는 기반이 될 것으로 예상됩니다.