"AI야, 알아서 사줘"…'AI 결제 시대' 오면 카드사 역할은

'쇼핑 AI' 확산…비자·마스터카드, 생태계 참여
본인인증 넘어 '누가 권한 줬나' 검증해야
"권한 회수·추가 승인 등 안전장치 필요"

인공지능(AI)이 사람을 대신해 결제하는 '에이전틱 커머스' 시대가 다가오면서 카드업계의 역할이 확장될 것이란 전망이 나온다. 기존의 본인 여부 확인은 물론 AI가 소비자로부터 어떤 범위의 결제 권한을 부여받았는지 검증하고 통제하는 기능이 중요해질 수 있어서다. AI의 오판으로 잘못된 거래가 발생했을 때 책임소재를 어떻게 가를지도 새로운 과제로 떠오르고 있다.

로이터연합뉴스

9일 금융권에 따르면 AI 챗봇 '클로드' 개발사 앤스로픽은 이달 초 커머스 AI 에이전트 구축 관련 청사진을 공개했다. 쇼핑 에이전트가 소비자의 요구를 파악해 상품을 검색하고 장바구니를 구성하는 식이다. 다만 결제는 에이전트가 직접 처리하지 않고 기존 결제 시스템이나 별도 사업자와 연계했다. 앤스로픽은 비자와 마스터카드 등을 생태계 파트너로 두고 있다.

AI가 실제 결제까지 맡도록 하려는 움직임도 나타나고 있다. 인도는 실시간 결제 시스템인 통합결제인터페이스(UPI)를 통해 AI 에이전트가 사용자 대신 결제를 수행할 수 있도록 하는 프로토콜을 준비하고 있다. 소비자가 매번 결제를 승인하지 않아도 AI가 사전에 설정된 조건과 한도 안에서 거래를 실행하는 구조다.

자율 결제 늘수록 카드사 '신뢰 관리' 역할 커질까

현재 결제 환경에서는 소비자가 카드를 접촉하거나 비밀번호를 입력하는 등 명시적인 행위를 통해 의사를 표시한다. 하지만 가까운 미래에는 소비자가 직접 개입하지 않은 상태에서도 AI 에이전트에게 미리 목표와 조건을 정해놓으면 거래가 이뤄질 수 있다.

아직 소비자들의 경계감은 여전하다. 글로벌 컨설팅사 액센추어가 실시한 설문조사에 따르면 소비자들이 AI와 함께 상품을 찾는 데 열려 있다는 응답은 85%에 달했지만, AI가 독립적으로 상품을 구매하도록 허용하겠다는 비율은 9%에 그쳤다. 개인정보 보호와 통제권 상실 등에 대한 우려가 부담으로 작용하고 있는 것으로 풀이된다. 한 금융권 관계자는 "결제가 정상적으로 승인됐다고 해서 AI가 소비자의 의도에 맞게 행동했다는 의미는 아닐 수도 있다"며 "AI가 사전에 부여받은 조건 안에서 거래를 수행했는지 검증하는 작업도 필요하다"고 말했다.

업계에서는 AI 에이전트 결제 시장이 커질수록 카드사의 역할이 AI 거래의 신뢰성을 검증하는 영역까지 넓어질 수 있다는 관측이 나온다. 본인인증과 이상거래 탐지뿐 아니라 해당 AI가 소비자로부터 실제로 권한을 부여받았는지 확인하는 작업이 중요해질 수 있어서다. 최승우 KB경영연구소 연구위원은 "카드사는 기존 금융인증 체계를 활용해 AI 에이전트 자체의 신원을 확인하는 것보다 누가 AI에 권한을 부여했는지를 검증한다"고 설명했다.

이와 함께 사고 발생 시 책임소재를 명확히 하는 것도 과제로 꼽힌다. AI가 잘못 판단해 엉뚱한 결제를 하거나 악성 명령을 정상적인 지시로 오인할 경우 소비자와 AI 개발사, 카드사 가운데 누가 피해를 부담할지 경계가 불분명할 수 있다. 조진형 경인교대 교수는 "AI 에이전트를 안전하게 쓰려면 사용자가 언제든 권한을 회수할 수 있어야 한다"며 "고액이나 비정형적인 거래는 반드시 사람의 승인을 거치도록 설계해야 할 것"이라고 말했다. 아울러 "AI 에이전트가 무슨 판단을 어떻게 내렸는지 그 근거가 투명하게 제시돼야 한다"고 덧붙였다.

이승형 기자 trust@asiae.co.kr