연산비용 부담, '토큰 딜레마'
복잡한 보험심사…입력 줄이면 오류 우려
해외 보험사 토큰 사용량 급증 사례도

보험사가 인공지능(AI) 활용을 확대하면서 연산 비용 관리가 새로운 과제로 떠오르고 있다. 복잡한 보험약관과 청구서류를 처리하기 위해 입력하는 정보가 많아질수록 토큰 사용량이 늘어나는 데다 AI 에이전트가 검색과 분석을 반복하면 단시간에 토큰이 대량 소모될 수 있어서다. 시험 운영 단계에서는 감당할 만했던 비용이 실제 대규모 업무에 적용되는 과정에서 수익성 부담으로 이어질 가능성이 제기된다.

보험사 AI 경쟁 새 변수는 '토큰 비용'?
AD
원본보기 아이콘

18일 보험업계에 따르면 글로벌 컨설팅사 딜로이트는 최근 발표한 2027년 보험산업 전망에서 보험사의 AI 에이전트 활용 확대로 토큰 사용량과 모델 선택에 따른 운영비용이 중요한 관리 대상이 될 것으로 봤다. 보험사의 AI 투자 관련해 딜로이트는 보고서에서 "전통적인 IT 예산 편성 방식만으로는 더이상 충분하지 않을 수 있다"며 "혁신을 위한 투자를 지속하면서도 비용이 예상보다 과도하게 늘어나는 것을 방지하기 위해 AI 비용과 창출되는 가치를 파악할 필요가 있다"고 분석했다.


토큰은 거대언어모델(LLM)이 정보를 처리하는 기본 단위다. 생성형 AI는 입력된 문장을 토큰으로 나눠 분석하고 답변 또한 토큰 단위로 생성한다. 보험사가 외부 AI 모델을 응용프로그램인터페이스(API) 방식으로 활용하는 경우 일반적으로 입력과 출력에 사용한 토큰 수에 따라 비용이 발생하며 일부 추론형 AI 모델은 답변 생성 과정에서 내부적으로 추가 토큰을 사용해 비용이 늘어날 수 있다.

보험업에서 이 같은 구조가 중요한 이유는 보험 업무의 정보 집약적 특성 때문이다. 예를 들어 보험금 지급 여부를 검토하려면 가입 당시 약관, 보장 조건, 면책 조항, 사고 경위, 진료기록, 과거 청구 이력 등을 대조해야 한다. 일반 고객 문의와 달리 여러 문서에 흩어진 조건을 확인하고 이를 개별 사고에 적용해야 한다. 이때 약관 및 청구서류 일체를 AI에 전달하면 입력 토큰이 많아지고 연산이 여러 차례 반복되면 동일 정보가 재처리되면서 비용이 누적될 수 있다. 만약 토큰 사용량을 줄이기 위해 정보를 일부 제외하면 지급 판단에 필요한 예외 조항이나 계약 조건을 놓칠 가능성이 있다.


금융권 관계자는 "보험금 청구서류에 중복된 진료기록이 들어가거나 필요한 검사자료가 빠지는 경우도 있는데 이를 그대로 AI에 입력하면 불필요한 연산이 발생할 수 있다"며 "보험사가 모든 작업을 하나의 모델로 처리하기보다 문서 분류나 정보 추출 등 과정에 맞는 모델을 활용하는 것이 효율적일 수 있다"고 말했다.

AD

토큰 비용 문제는 보험사의 전사적 AI 활용이 테스트 운영에서 실제 대규모 업무 처리로 확대될수록 두드러질 수 있다는 분석이 나온다. 앞서 딜로이트는 지난 9월 내놓은 분석에서 한 보험사의 월간 AI 토큰 사용량이 1년도 안 돼 300만개에서 1억5000만개 이상으로 증가한 사례를 소개했다. AI 활용이 확대되면서 토큰 소비량이 단기간에 크게 늘어난 것이다. 이를 두고 딜로이트는 "개념을 증명하는 단계에서는 감당할 수 있는 수준으로 보였던 비용이 규모가 커지면서 상당한 부담으로 이어질 수 있다"고 지적했다.

보험사 AI 경쟁 새 변수는 '토큰 비용'? 원본보기 아이콘

한 업계 관계자는 "보험 심사 판단 결과가 불확실한 경우에 에이전트가 검색과 분석을 반복하면 한 건의 업무에도 예상보다 많은 토큰이 사용될 것"이라며 "외부 AI 모델은 입출력 토큰 단가와 제공업체별 요금이 다르고 저렴한 모델을 사용하더라도 오류로 인해 담당자의 재검토가 늘어나면 전체 처리비용이 커질 수 있어 AI 투자 효과를 입증하기가 쉽지 않은 경우가 있다"고 말했다.


이승형 기자 trust@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈