삼쩜삼, 사내 AI 에이전트 통합 플랫폼으로 비용 45% 절감

안전한 AI 사용 기반 마련

'삼쩜삼'을 운영하는 자비스앤빌런즈는 사내에 흩어져 개별 운영되던 인공지능(AI) 에이전트를 통합 관리하는 자체 플랫폼 '카터(Carter)'를 구축하고, AI 운영 비용을 최대 45% 절감했다고 27일 밝혔다.

'카터'는 사내 AI 에이전트 개발과 운영에 필요한 비용을 관리 및 모니터링하고 보안과 개인정보 보호 기능을 공통으로 제공하는 AI 통합 플랫폼이다. 에이전트별로 기능을 개별 구축할 필요 없이 검증된 공통 라이브러리와 인프라를 즉시 활용해 중복 개발을 방지하고 일관된 AI 운영 환경을 확보할 수 있다. 현재 삼쩜삼Q, 삼쩜삼 앱 AI 에이전트 등 삼쩜삼 서비스와 사내 업무 곳곳에서 활용되는 8개 AI 에이전트가 카터 관리 아래 운영되고 있다.

삼쩜삼은 카터를 통해 AI 운용 비용을 크게 절감했다. 전체 호출의 약 50%를 경량 모델로 처리해 LLM(거대언어모델) 호출비용을 약 45% 낮췄다는 설명이다. 삼쩜삼은 카터가 제공하는 AI 에이전트 답변의 정확성과 신뢰도를 지속적으로 고도화해 나갈 계획이다.

강병규 자비스앤빌런즈 최고기술책임자(CTO)는 "사내 AI 에이전트와 지식 자산을 카터로 통합해 AI 운영 효율을 높이고 안전한 활용 기반을 마련했다"며 "비용 절감에 그치지 않고 답변 품질까지 측정하고 관리하는 체계를 갖춰, 구성원 누구나 안전하게 AI 에이전트를 만들고 운영할 수 있는 환경으로 확장해 나갈 것"이라고 말했다.

김철현 기자 kch@asiae.co.kr