kt cloud 사옥 내 마련된 차세대 액체 냉각 방식을 적용한 AI 인프라 랩스의 모습 [kt cloud 제공]

지난 11일 서울 양천구에 위치한 kt cloud 사옥 내 AI 인프라 랩스. 약 60평 남짓한 공간에 들어서자 ‘위잉’ 소리가 귀를 파고들었다.

D2C(Direct to Chip cooling) 액체 냉각 방식이 그래픽처리장치(GPU)가 뿜어내는 열기를 직접 식히면서 나는 소리다. AI 인프라 랩스 내 설치된 D2C 핵심 장비인 냉각수 분배 장치(CDU)는 배관을 통해 냉각수를 순환 중이었다.

인공지능(AI) 시대, 데이터센터(DC)의 가장 큰 걸림돌은 ‘열’이다. 특히 GPU, AI 서버 등은 높은 발열 현상을 동반한다. 이를 관리하기 위해 흔히 DC에 ‘공기 냉각’ 방식을 적용하지만, 액체 냉각 방식의 열 제거 효율을 따라올 수는 없다.

다만 액체 냉각 방식 적용을 위한 초기 투자 비용 등은 한계로 남아 있다. 이런 가운데 kt cloud가 AI DC 기업간거래(B2B) 비밀병기로 액체 냉각 시대를 열겠다고 선언했다.

▶극명한 효율성 차이…“액체 냉각 비중 높일 것”=공기 냉각 방식과 액체 냉각 방식은 효율성에서 차이가 크다. 더욱이 AI, 고성능 컴퓨팅 확산으로 인한 서버 발열 밀도가 이전과는 비교할 수 없이 높아졌다. 글로벌 AI 서버들이 D2C 액체 냉각 방식을 선호하는 이유다.

kt cloud는 B200 등 엔비디아 GPU 기반 AI 서버 고열 환경을 테스트하고, 자체 개발한 액체 냉각 부하기를 실증하며 기술 내재화에 성공했다. 여기에 AI 서버를 특수 액체 담가 열을 식히는 액침 냉각 기술도 선보였다. kt cloud에 따르면 실제 부하 테스트 결과, 최대 60% 전력 절감 효과가 있었다.

물론 초기 투자 비용, 액체 누수, 인프라 구축 등은 과제로 남아 있지만, kt cloud는 AI　DC 내 액체 냉각 비중을 점진적으로 늘릴 계획이다. 오는 2030년까지 AI DC 역량을 500㎿까지 늘릴 방침인데, 일부 AI DC에 액체 냉각 방식이 접목된다.

허영만 kt cloud DC 본부장이 지난 11일 향후 제공될 새 서비스에 대해 설명하고 있다. [kt cloud 제공]

허영만 kt cloud DC 본부장은 “공기 냉각 방식도 랙당 40~50㎾까지 감당할 수 있으나, 100~200㎾가 넘어가면 액체 냉각 방식이 필요하다”며 “(DC 내 어떤 기술을 적용할지) 고객의 요구를 반영하겠지만 액체 냉각 방식이 늘어날 것이고, 상용화가 본격화되면 비용 절감 효과도 있을 것”이라고 내다봤다.

이어 “내년 부천에 두 곳, 안산 등에 DC를 구축할 예정”이라며 “가산, 부천, 개봉, 안산 사이트의 경우 액체 냉각 방식을 수용할 수 있는 구조로 설계될 것”이라고 덧붙였다.

▶B2B 사업 본격화…내년 4월 서비스 개시=kt cloud는 내년 4월 액체 냉각 서비스 개시를 예고하며, B2B 사업 본격화에 나설 것임을 선언했다. 클라우드 사업자 등 액체 냉각에 대한 수요가 적잖다는 점도 들었다.

허 본부장은 “가산 데이터센터 개소로 국내에서는 처음으로 액체 냉각 방식에 대한 상업 서비스를 준비 중”이라며 “내년 4월이면 서비스를 개시할 예정”이라고 공개했다.

그러면서 “현재 클라우드를 기반으로 전환한 업종이 많다”며 “고성능 컴퓨팅을 요구하는 업종, 대학, 연구기관 등에서도 액체 냉각 방식 요구한다”고 덧붙였다.

아울러 전력·냉각·보안 등 주요 설비 통합 관리시스템(FMS) 효율 극대화를 통한 인건비 절감도 가능하다고 강조했다.

허 본부장은 “운영 플랫폼 효율성 개선, 인력 비용 절감, 운영 인력 4조 3교대 60~70명 등 AI DC 운영 인력을 3분의 1 이하로 줄이는 걸 목표로 하고 있다”며 “나아가 DC 산업화, AI 발전을 위한 기술력 선도 등을 통해 고객에게 가치를 제공할 것”이라고 밝혔다. 고재우 기자