SKT, AI 고객센터 베타 서비스 운영 성공…내년부터 전면 적용

지난달 중순부터 AI 고객센터 베타서비스 운영
자체 텔코 LLM·LMM 적용…RAG도 개발
12월부터는 상담 후속 업무 자동화도 실행

SK텔레콤은 자체 개발한 인공지능(AI) 상담업무 지원 시스템을 고객센터에 적용해 베타 서비스를 한 달여 간 성공적으로 운영했다고 18일 밝혔다.

자체 개발 AI 기술에는 통신 특화 거대언어모델(텔코 LLM)과 거대멀티모달모델(LMM) 기술이 적용됐다.

SKT는 앤트로픽 등 해외 주요 LLM 업체들과 협력해 텔코 LLM을 개발해 왔다. 지난 한 해 동안 지식정보시스템을 AI 활용에 적합한 구조로 개편하고 통신 관련 데이터를 활용해 모델 튜닝을 진행했다.

또 고객센터 상담 전문가 수십 명이 참여해 텔코 LLM 성능 향상을 위한 학습 데이터를 만들어왔다. 이후 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들었다.

아울러 LLM이 명확한 답을 생성할 수 있도록 정확한 정보를 검색하고 답변 품질을 증강하는 검색증강기술(RAG)을 개발·적용했다. 텍스트뿐만 아니라 이미지도 이해할 수 있도록 통신 관련 서류 등 이미지를 학습해 통신전용 LMM도 개발했다.

SKT는 내년부터 모든 고객 상담 업무에 AI 기술을 전면 적용할 예정이다. 텔코 LLM 기반 AI 지식 검색 도우미 서비스는 상담사들이 필요한 정보를 신속하게 찾아 이용자에게 안내한다. 상담사들은 지식정보시스템에서 정보를 찾을 필요 없이 '퍼플렉시티'나 '챗GPT'처럼 자연어로 질문해 정보를 도출해낼 수 있다.

AI 전환(AX) LMM을 활용해 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 문자, 이메일, 팩스 등 다양한 채널로 보낸 사진, 스캔 문서 등 여러 가지 종류의 서류들을 처리하고 있다. AI는 다양한 형태·종류의 서류를 분류 및 처리함으로써 증빙서류 확인에 필요한 시간을 단축할 수 있을 것으로 보인다. 자동 분류 시스템은 지난달 23일부터 도입했으며, 향후 서류 내용을 자동 판독하는 기술도 적용될 예정이다.

다음 달에는 고객 상담 결과를 텔코 LLM을 활용해 자동 분류·요약·정리하는 상담 후속 업무 자동화 시스템도 실행한다. SKT 측은 "상담 결과 정리 업무는 평균 30초 정도 소요됐지만, AI가 자동 처리해주게 되면 상담사는 상담 이후 후속 업무처리 없이 대기 고객에게 빠르게 상담을 제공할 수 있다"고 했다.

홍승태 SKT 고객가치혁신 담당은 "SKT는 AI 고객센터로 진화하면서 업무 효율화에만 치중하지 않고, 고객 개개인에게 최적화된 상담을 제공하는 것을 목표로 하고 있다"며 "SKT는 텔코 LLM 기반 상담 업무 지원 시스템을 발판으로 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 제공하겠다"고 했다.

황서율 기자 chestnut@asiae.co.kr