[르포]KT클라우드, 차세대 GPU 도입 준비…AIDC 증설 속도 빨라진다

KT클라우드 '목동2 IDC' 가보니
AI 이노베이션 센터서 기술 실증

군산 AIDC, 모둘형 인프라 적용
"2031년까지 1GW 신규 공급"

"데이터센터는 건물 자체가 스펙이자 상품입니다. 25년 운영 경험을 토대로 LS일렉트릭, 버티브 등과 협업해 인공지능(AI) 데이터센터 인프라를 고도화하고 있습니다."

KT클라우드 목동2데이터센터 내 AI 이노베이션 센터 AI 인프라 랩스 모습. 검정색 대형 서버 랙과 그 사이를 지나간 흰색 자율주행 로봇. KT클라우드 제공

지난달 30일 찾은 KT클라우드 목동2데이터센터 내 'AI 이노베이션 센터' AI 인프라 랩스에서 가장 먼저 눈에 띈 건 수십개의 호스가 꽂힌 대형 서버 랙이었다. 엔비디아의 그래픽처리장치(GPU) B200을 장착한 AI 서버가 학습 작업을 수행 중이었다. 72개의 서버를 한 랙에 모아 엄청난 열을 낼 수밖에 없는 서버 환경에서 KT클라우드는 냉각·전력·네트워크 등 핵심 인프라 기술을 실증해왔다고 강조했다.

고밀도 환경에 대비한 액체냉각 기반의 '직접 칩 냉각(D2C)' 기술이 대표적이다. D2C는 발열이 집중되는 칩 표면에 냉각판을 직접 접속하고 그 안으로 냉각수를 흘려 열을 제거하는 방식이다. 방재원 KT클라우드 AIDC사업개발팀장은 "과거 2.2㎾를 표준으로 하던 랙당 전력 밀도가 600㎾까지 늘어날 것으로 예상되는 상황에서 액체냉각은 필수"라며 "자체 개발한 부하기를 활용해 서버 발열 조건을 재현하고, 냉각수의 유량·압력·온도 등을 검증하고 있다"고 설명했다.

한편에는 서버를 통째로 냉각액에 담가 열을 식히는 액침냉각 시스템 실물도 전시돼 있었다. 자율주행 로봇은 공간 사이를 오가며 장비의 온도·습도·조도 등을 점검하고 이상 징후 여부를 파악했다. 방 팀장은 "올해는 보스턴다이내믹스의 4족 보행 로봇 '스폿'을 활용한 2단계 실증도 추진하고 있다"며 "향후 로봇이 수집한 현장 데이터를 AI 기반 운영 플랫폼과 연계하는 등 피지컬 AI 기반 운영 자동화 기술의 적용 범위를 넓힐 것"이라고 말했다.

서버실은 총 6개 층에 마련돼 있었고, 지하 2층에는 비상발전실이 가동되고 있었다. 찬 공기를 서버실 내부로 유입시키기 위한 에어터널은 4층부터 시작해 옥상까지 뻥 뚫려 있었다. KT클라우드에 따르면 이곳은 매년 11월 중반부터 이듬해 3월 중반까지 운영하며, 외기를 차단해 에너지 효율을 30% 높인다. 이들 시스템과 주변 센터 현안까지 모니터링하는 관제실에는 여러 개의 대시보드가 트래픽 수치 등을 띄우고, 임직원들은 실시간 상황을 살피는 데 여념이 없었다.

김봉균 KT클라우드 대표(왼쪽)와 폴 처칠 버티브 아시아 부사장 겸 총괄매니저가 차세대 AI 데이터센터 전략기술 파트너십 체결 후 기념촬영을 하고 있다. KT클라우드 제공

KT클라우드는 루빈 등 차세대 GPU 도입을 위한 인프라 설계 검증에서 나아가 AI 데이터센터 몸체 구축 기술도 고도화하고 있다. 주요 설비를 공장에서 미리 제작·시험한 뒤 현장에 설치하는 모듈러·프리맵 기술로, 공사 기간 단축과 일정한 품질 관리가 장점이다. 방 팀장은 "데이터센터는 짓는 데에만 3~4년이 소요돼 빠르게 늘어나는 시장 수요에 어떻게 대응할지 고민하고 있다"며 "빠른 공급과 증설 유연성이 경쟁력을 결정할 것으로 보고, 군산 AI 데이터센터 건립부터 모듈형 인프라를 적용하려 한다"고 전했다.

LS일렉트릭, 버티브 등 각 분야 전문기업과 설계 단계부터 협력하는 이유다. LS일렉트릭과는 모듈형 데이터센터에 필요한 전력 인프라를 공동 연구하고, 구축 일정에 맞춰 주요 전력설비를 안정적으로 공급한다. 버티브와는 전력·액체냉각·모듈형 인프라를 함께 고려한 설계 최적화를 추진하고 있다. 방 팀장은 "AI 이노베이션 센터는 이 모든 기술 실증의 거점"이라며 "군산·청라·안산 등 신규 사업을 통해 2031년 1GW AI 데이터센터 공급 전략을 실현해 나갈 것"이라고 말했다.

노경조 기자 felizkj@asiae.co.kr