"AI가 고른 금융상품, 최선일까"…추천 기준 투명성 새 과제

소비자 이익·플랫폼 수익 충돌 우려
해외 규제당국, AI 추천 투명성 강조
"추천 넘어 가입까지…이해상충 관리해야"

인공지능(AI)이 소비자 대신 금융상품을 골라주는 시대가 다가오면서 상품 추천 과정의 공정성 확보가 새로운 과제로 떠오르고 있다. AI 플랫폼의 제휴 관계나 수익구조가 추천 기준에 반영될 경우 소비자에게 더 유리한 상품이 선택에서 밀려날 수 있어서다. 전문가들 사이에서는 AI 상품 추천의 투명성과 거래 책임 등을 명확히 해야 한다는 목소리가 나온다.

3일 금융권에 따르면 영국 금융행위감독청(FCA)과 경쟁시장청(CMA) 등 4개 규제기관은 지난달 30일 AI 에이전트의 소비자 보호 관련 공동성명을 발표했다. 이들 기관은 AI가 소비자 대신 상품을 추천하거나 거래하는 과정에 상업적 이해 관계가 있다면 이것이 행동에 미치는 영향을 이용자가 알 수 있어야 한다고 강조했다. 잘못된 판단으로 문제가 발생했을 때 책임 주체와 피해 구제 방법을 명확히 할 필요가 있다는 취지다.

이 같은 문제는 AI 에이전트가 소비자의 상황에 맞춰 상품을 결제하는 방향으로 발전하면서 중요해지고 있다. AI가 카드 할인 혜택, 대출금리, 보험료 등 객관적 조건뿐 아니라 플랫폼 수익모델과 제휴 관계에 영향을 받을 수 있어서다. 가령 플랫폼이 제휴수익을 추천 기준에 반영하도록 설계돼 있다면 소비자에게 더 큰 할인 혜택을 제공하는 A카드보다 플랫폼에 높은 수익을 가져다주는 B카드가 우선 추천될 수 있다. 대출이나 보험에서도 소비자에게 유리한 금리·보장 조건이 아닌 다른 상품이 상위에 노출될 가능성이 있다.

유재원 토스인사이트 연구위원은 "소비자의 순편익을 중심으로 설계돼야 할 선택기준이 운영사의 경제적 유인에 따라 이동하는 현상을 '목적함수의 표류'라고 한다"며 "거래량, 고객 체류시간, 교차판매 실적, 계열 금융상품 이용 또는 데이터 확보처럼 특정 선택이 운영사에 경제적 가치를 제공하는 내부 성과지표도 같은 유인을 만들 수 있다"고 분석했다.

실제 카드업계에서는 AI 에이전트 결제에 따른 위험을 우려하고 있다. 여신금융연구소가 카드사 임직원 71명을 대상으로 조사한 결과에 따르면 책임소재가 불명확하다는 것이 가장 심각한 위험으로 꼽혔으며 플랫폼 종속과 추천 편향 등도 주요 위험 요인으로 평가됐다.

업계에서는 AI 에이전트가 결제 생태계에 침투할수록 금융상품의 추천 기준과 비교 범위를 확인할 수 있는 체계가 필요하다는 지적이 나온다. AI가 특정 상품을 출력한 기준은 무엇이며 제휴 수수료 등 경제적 이해관계가 결괏값에 어떤 영향을 미쳤는지 확인할 수 있어야 한다는 것이다. 윤종문 여신금융연구소 실장은 "광고나 제휴에 따른 추천은 그 사실과 비교 범위, 주요 추천 기준을 이용자가 알 수 있도록 할 필요가 있다"고 말했다.

한 금융권 관계자는 "예전부터 제휴사 상품을 앞에 보여주는 문제는 있었는데, 그래도 최종적으로 소비자가 직접 비교하고 선택하는 경우가 많았다"며 "AI가 소비자 대신 상품을 고르고 결제하거나 가입까지 연결시키면 AI의 행동 한 번으로 실제 금융거래에 미치는 영향이 더 커질 수 있다"고 말했다. 그러면서 "플랫폼 수수료 등으로 인해 사용자에게 더 유리한 상품이 뒤로 밀리는 일은 없어야 한다"고 덧붙였다.

이승형 기자 trust@asiae.co.kr