엔비디아 출신의 도전…"AI, 전기·수도처럼 흐르게 할 것"(종합)

경기 평택시 소재 '바로 스페이스' 공개
셀 단위·모듈화로 표준화…확장성 높여
대학·연구기관 주요 타깃…해외 수출도

13년 동안 엔비디아 코리아 지사장으로 근무했던 이용덕 바로AI 대표가 대학과 연구실을 위한 소형·모듈형 인공지능(AI) 컴퓨팅센터를 구축했다.

이용덕 바로AI 대표가 29일 경기 평택에서 열린 '바로 스페이스' 오픈식에서 AI 인프라의 중요성에 대해 말하고 있다. 김보경 기자

29일 AI 인프라 전문기업 바로AI는 경기 평택에 도심형 소형 데이터센터 '바로 스페이스'를 공식 오픈하고, GPU 400개를 탑재한 액체 냉각 방식의 AI 컴퓨팅센터를 공개했다.

바로AI는 바로 스페이스를 GPUaaS(서비스형 GPU) 사업에 활용할 계획이며, 독자 기술로 구축한 HACC(하이브리드 모듈러 AI 컴퓨팅센터) 기술을 소개하는 장으로도 쓴다.

이 대표는 "HACC는 AI 시대의 공유형 전기 인프라"라며 "누구나 AI를 바로 시작할 수 있는 인프라를 제공하겠다"고 포부를 밝혔다.

이번에 공개한 AI 컴퓨팅센터는 작은 단위(셀)로 나눠 현장 가까이에 유연하게 설치할 수 있다는 점이 특징이다. 400개의 GPU가 들어가는 하나의 셀을 표준화해 대학 캠퍼스나 지식산업센터, 연구소 등 어디서든 레고 블록처럼 복제·확장할 수 있다.

장소에 제약이 있고 설립 비용과 시간이 많이 드는 초대형 규모의 하이퍼스케일 데이터센터와 달리, AI 연구 현장이나 도심 환경 어디에서나 신속하게 설치·운영 가능할 것으로 기대된다.

이 대표는 "400 GPU 기준 1개 셀을 구축하는 데 100억~300억원 정도 비용이 소요된다. 이 안에는 서버, 냉각, 전력, 소프트웨어, 시공 등을 모두 포함한다"면서도 "GPU 수요가 적을 경우에는 이에 맞춰 필요한 만큼 서버르 설치하면 100억원 이하로도 시작할 수 있다"고 밝혔다.

HACC는 대학과 연구기관, AI 모델을 개발하는 기업, 지자체와 공공기관 등이 주요 타깃이다. 이 대표는 "하나의 셀은 250㎾급 전력으로 운영된다"며 "이는 일반 빌딩이나 지식산업센터가 이미 보유한 전력망으로도 충분히 수용 가능한 수준"이라고 설명했다.

또한 액체 냉각 시스템을 적용해 전력 사용량을 30~35% 절감할 수 있고, GPU 온도를 50~60도 수준으로 유지 가능하다. 풀 부하로 돌려도 소음이 39dB 수준이라 도서관보다 조용하다는 설명이다.

이 대표는 "HACC는 도심 속 건물 안에도 설치할 수 있는 데이터센터"면서 "단순한 냉각 기술이 아니라, 도심·엣지 환경에서도 AI 컴퓨팅을 가능하게 하는 핵심 기술"이라고 강조했다.

특히 바로AI는 자사가 직접 설계한 GPU 서버(포세이돈)를 비롯해 클러스터 관리 소프트웨어(바로 플렉스), 데이터센터(바로 스페이스)를 모두 통합 제공해 장애 시 빠르고 안정적인 대응이 가능하다.

이 대표는 "우리가 꿈꾸는 세상은 AI가 전기·수도처럼 자연스럽게 흐르는 세상"이라며 "AI를 하고 싶을 때, 복잡한 절차 없이 수도꼭지를 틀듯 필요한 만큼 컴퓨팅을 끌어다 쓰는 사회를 만드는 것이 목표"라고 밝혔다.

바로AI는 향후 동남아·중동·중남미 등 에너지 인프라가 취약한 지역에도 빠르게 구축 가능한 수출형 HACC 모델을 전개할 계획이다. 정부 원조 자금과 연계한 AI 인프라 보급 사업을 추진 중이며, 이를 통해 대한민국의 AI 기술·인프라 수출을 통한 글로벌 소버린 AI 네트워크 구축을 목표로 하고 있다.

이 대표는 "세계가 하이퍼스케일 데이터센터에 집중하고 있지만, GPU 세대 교체 속도와 가동률 리스크를 고려하면 모든 AI 워크로드를 중앙에 몰아넣는 방식은 비효율적"이라고 평가했다. 이어 "작게 시작해 수요에 맞춰 확장하고, 수랭식 기반의 고효율 구조로 운영비를 줄이는 방법이 현실적 대안"이라고 밝혔다.

김보경 기자 bkly477@asiae.co.kr