[AI 보험, 혁신의 그늘]③AI 보험금 거절 사유 '불투명' 그만…지급 사유 설명 의무화해야

해외 주요국 AI 투명성 강화 추세
국내 가이드라인은 여전히 '권고' 수준
학계 "AI 심사 거절 시 사유 고지 및 인적 재심사 보장해야"

보험회사들이 업무 전반에 인공지능(AI)을 적용하면서 보험금 지급 여부 등 핵심 의사결정 과정에서 발생하는 '편향성'과 '불투명성'을 해결해야 한다는 목소리가 높아지고 있다. 이로 인한 소비자 신뢰 저하 우려가 커지는 가운데 판단 근거 공개 등 투명성 강화와 함께 내부통제·거버넌스 체계 정비가 필요하다는 지적이 나온다.

보험회사 직원과 보험가입자가 보험금 지급 등에 관해 논의하는 모습을 표현한 이미지. 아시아경제 DB

EU·미국 등 규제 정비 가속…"비기술적 언어로 설명할 의무 부과"

미국·유럽 등 주요국은 인공지능(AI) 규제 및 소비자 보호 기준을 강화하고 있다. 챗GPT 생성 이미지

이미 해외에서는 소비자 보호 장치를 마련하는 움직임이 뚜렷하다. 유럽연합(EU)은 인공지능규제법(AI Act)을 통해 보험료 산정이나 가입 심사 등 소비자에게 영향을 미칠 수 있는 AI의 판단 결과를 소비자가 이해할 수 있도록 투명성 요건을 강화하고 있다. 유럽보험연금감독청(EIOPA)은 지난해 발표한 'AI 거버넌스 및 리스크 관리에 관한 의견서'에서 AI의 판단 과정이 충분히 설명되지 않을 경우 편향 또는 차별적 결과로 이어질 수 있다고 경고했다. EIOPA는 "소비자에게 중대한 영향을 미치는 결정과 관련해 소비자가 요청할 경우 AI 시스템이 해당 결정에 미친 영향을 단순하고 명확한 비기술적 언어로 설명해야 한다"고 강조했다. 전문용어가 아닌 일반 소비자가 쉽게 이해할 수 있는 언어로 판단의 이유를 설명해야 한다는 취지다.

미국에서도 유사한 문제의식을 반영해 감독 기준을 정비하는 모습이다. 미국 보험감독당국 협의체인 전미보험감독관협의회(NAIC)는 보험사가 AI를 활용할 때 소비자 피해가 발생하지 않도록 리스크 관리 체계를 요구하는 가이드라인을 채택했다. 특히 콜로라도주는 AI 모델이 소비자에게 중대한 영향을 미치는 경우 기업에 위험 관리 및 영향 평가 의무를 부과하는 '콜로라도 AI법'을 오는 6월부터 시행할 예정이다. 이 법이 시행되면 보험금 지급 판단 시스템 등 소비자 권익과 직결된 AI 의사결정 도구들이 본격적인 규제 대상에 포함될 전망이다.

AI 의사결정 불투명성 우려…내부통제·거버넌스 체계 구축 필요

국내의 경우 지난 1월 AI기본법을 시행하는 등 규율체계를 구축해 가고 있다. 금융 분야는 금융위원회와 금융감독원이 AI 기본법 시행에 맞춰 '금융분야 AI 가이드라인'과 '금융분야 AI 위험관리 프레임워크(AI RMF)'를 공개한 후 정식 시행을 앞두고 있다. 해당 가이드라인은 금융 AI 7대 원칙에 대한 세부 이행 사항을 제시하며, AI RMF는 금융 AI 7대 원칙 가운데 '거버넌스 원칙'을 구체화한 것이다. AI 의사결정 기구 설치와 위험관리 전담 조직 운영, 위험 평가 및 통제 체계 구축 등 내부통제 강화를 권고하는 데 초점이 맞춰져 있다.

다만 현행 가이드라인만으로는 보험금 지급 여부 판단이나 AI 의사결정 근거에 대한 설명 의무를 강제하기 어렵다는 점이 한계로 지적된다. 업계에서는 위험관리 시스템 구축 필요성을 환기하는 효과는 있지만, 실제 소비자 분쟁을 예방하기에는 규정의 구체성과 강제력이 부족하다는 평가가 나온다.

이 같은 한계를 보완하기 위해서는 의사결정 과정의 투명성을 높이고 내부 통제 및 거버넌스 체계를 정비해야 한다는 지적이다. AI 판단 과정의 불투명성을 줄이고 소비자의 수용성을 높이기 위해서다. 서지용 상명대 경영학부 교수는 "지급 여부 판단의 근거를 문서화하고 이를 공시하는 제도가 필요하다"고 강조했다. 데이터가 어떤 방식으로 분석됐는지, 알고리즘이 어떤 결과를 도출했는지에 대한 요약 정보를 체계적으로 공개해야 한다는 것이다.

이주열 남서울대 보건행정학과 교수는 "단순히 AI의 평가 점수를 보여주는 것이 아니라, 어떤 데이터가 결정적 요인으로 작용했는지 구체적인 인과관계를 중심으로 설명하는 체계가 필요하다"고 했다.

보험사 내부의 관리 체계 정비도 중요한 과제로 지목됐다. 서 교수는 "AI 전담 조직을 두고, 운영 과정에서 발생할 수 있는 리스크에 대응할 수 있는 매뉴얼을 마련해야 한다"며 "위험관리와 관련된 내부통제 체계를 구축하는 것이 필수적"이라고 설명했다.

손재희 보험연구원 연구위원 역시 "보험산업의 AI 전략이 단순한 도입 여부를 넘어 통제와 검증이 가능한 방식으로 책임 있게 운영하는 역량 확보로 옮겨가고 있다"며 "신뢰 확보를 위해 투명성·안전성을 기반으로 한 선제적 리스크 관리 체계를 구축할 필요가 있다"고 분석했다.

AI 기반 결과물에 대한 신뢰를 확보하고 소비자와 공존하는 시스템을 정착시키기 위해서는 보다 강화된 소비자 보호 장치가 필요하다는 의견도 나온다. 이를 위한 방안으로는 이사회 내 소비자보호총괄책임자(CCO)의 역할 강화가 대안으로 제시됐다. CCO는 현재 일부 회사에만 도입됐지만, 이를 전 보험사로 확대해야 한다는 것이다. 서 교수는 "CCO가 사내이사로 단독 선임될 수 있도록 지배구조를 개선하고, CEO 직속 보고 체계를 구축할 필요가 있다"며 "준법감시인과의 겸직을 금지해 독립성을 보장해야 한다"고 말했다.

아울러 이를 현실화하기 위해서는 금융당국의 평가 체계와 연계한 유인 방안이 필요하다는 의견도 제시됐다. 서 교수는 "금융감독원이 보험사 경영실태평가에서 CCO 역할이 미흡할 경우 등급을 하향 조정할 수 있다는 메시지를 준다면 조직 내에서 CCO의 위상이 강화될 것"이라고 덧붙였다.

문채석 기자 chaeso@asiae.co.kr
이승형 기자 trust@asiae.co.kr