삼성SDS, 국내 최초 엔비디아 B300 기반 구독형 GPU 서비스 출시
H100 대비 용량은 3.6배, 대역폭은 2.4배
거대 AI 모델 효율적으로 처리
삼성SDS가 국내 최초로 엔비디아의 최신 그래픽처리장치(GPU)를 기반으로 한 GPU 구독형 서비스(GPUaaS)를 출시했다. 기업 고객사들은 사용한 만큼만 비용을 지불하는 구조로 비용을 절감하는 동시에 하이퍼스케일러 수준에서 인공지능(AI)을 운영할 수 있다.
삼성SDS는 23일 삼성클라우드플랫폼(SCP)에서 엔비디아의 최신 GPU인 'B300' 기반 GPUaaS를 출시했다고 밝혔다. GPU를 직접 구매하거나 운영하지 않고도 필요한 GPU 자원을 클라우드에서 활용할 수 있는 서비스로 AI를 확대하고 있는 기업들의 고성능 컴퓨팅 수요가 급증한 상황을 반영해 출시했다.
엔비디아의 B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공함으로써 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다. 이에 따라 기업들이 SCP B300 GPUaaS를 활용하면, 대규모 언어 모델(LLM) 실행 시 나타나는 데이터 병목 현상을 획기적으로 개선할 수 있다.
삼성SDS는 기업들이 SCP B300 GPUaaS 활용으로 거대 AI 모델을 효율적으로 처리할 수 있다고 설명했다. 특히 AI 에이전트, 이미지·영상·코드 생성 및 분석에 필요한 AI 서비스 지연 시간을 줄일 수 있다. 기업들은 필요한 만큼 쓰고 사용료를 지불하는 구독형 모델로 초기 투자 리스크를 낮추는 동시에 GPU 수급이 어려운 상황에서도 최신 GPU를 즉시 도입할 수 있다는 장점이 있다.
GPUaaS 시장은 앞으로도 지속적인 성장세를 나타낼 것으로 전망되고 있다. 포춘 비즈니스 인사이트는 글로벌 GPUaaS 시장 규모가 2032년까지 연평균 35.8%에 육박할 것으로 예상했다.
삼성SDS는 올해 3분기에 별도의 인프라 사용료 없이 사용한 토큰 양 만큼만 비용을 지불하는 '서버리스 추론 서비스'와 코드 및 데이터를 입력하면 자동으로 AI를 분산 학습시키는 'AI 학습 서비스' 도 출시할 계획이다.
꼭 봐야 할 주요 뉴스
'리트 만점자' 현장서 메모 발견…경찰, 공소권 없음 종결 전망(종합)
이호준 삼성SDS 클라우드서비스사업부장은 "삼성 클라우드 플랫폼이 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 B300 GPU 서비스를 제공해 인공지능 전환(AX)을 지원하겠다"고 말했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>