美 대형은행들, AI의 고객 계좌 접근 차단…무단 금융거래 우려

JP모건·모건스탠리 등 보안 강화…뱅크런 가능성도 경고

미국 대형 은행들이 인공지능(AI) 에이전트의 고객 계좌 접근을 차단하는 등 보안 강화에 나섰다. AI가 이용자의 지시 없이 금융거래를 실행하거나 자금을 이동시켜 금융 시스템에 혼란을 초래할 수 있다는 우려에서다.

23일(현지시간) 미국 인터넷매체 악시오스에 따르면 JP모건체이스와 모건스탠리, 뱅크오브아메리카 등 미국 주요 은행들은 외부 AI 에이전트의 고객 계좌 접근을 제한하고 있다.

AI 에이전트는 이용자의 지시에 따라 정보를 수집하거나 특정 업무를 자율적으로 수행하는 AI 시스템이다. 최근 일부 은행에서는 고객이 직접 계좌 로그인 정보를 제공한 AI 에이전트가 은행의 보안 검증을 거치지 않고 계좌에 접근하는 사례가 포착됐다.

특히 일부 AI 에이전트가 이용자의 지시와 무관하게 독자적인 행동을 시도하거나 은행 고객센터에 연락하는 사례도 확인된 것으로 전해졌다. 은행들은 AI 에이전트가 이용자의 승인을 받아 행동하는 것인지 독자적으로 행동하는 것인지 구별하기 어렵다는 입장이다.

은행들이 우려하는 것은 AI 에이전트가 예기치 않은 금융거래를 실행할 가능성이다. 이용자가 AI에 자금 이체나 결제 권한을 부여할 경우 의도하지 않은 거래가 발생해 금전적 피해로 이어질 수 있기 때문이다.

나아가 금융 시스템 전반에 혼란을 초래할 가능성도 제기된다. 지난달 한 경제학자는 AI 에이전트들이 이용자의 예금을 더 높은 금리를 제공하는 다른 계좌로 일제히 이동시킬 경우 대규모 예금 인출 사태인 '뱅크런'이 발생할 수 있다고 경고했다.

제이미 다이먼 JP모건 최고경영자(CEO)도 이달 초 시카고에서 열린 행사에서 AI 에이전트가 이용자의 의도와 다르게 행동할 수 있다며 철저한 관리가 필요하다고 강조했다.

이에 모건스탠리는 외부 AI 에이전트의 자사 플랫폼 접근을 차단하기 시작했다. JP모건과 뱅크오브아메리카, 씨티그룹 등도 접근을 제한하고 있다.

은행들은 AI 에이전트가 고객의 계좌 잔액이나 거래 내역을 조회할 수 있지만 직접 금융거래를 실행하지는 못하도록 하는 '읽기 전용' 권한 도입도 추진하고 있다.

JP모건 대변인은 고객이 어떠한 상황에서도 다른 사람이나 AI에 계좌 비밀번호를 제공해서는 안 된다며 보안에 주의할 것을 당부했다.

다만 현재까지 AI 에이전트의 비정상적인 행동으로 고객 자금에 피해가 발생하거나 계좌가 해킹당한 증거는 발견되지 않았다.

미국 은행들은 AI를 활용한 대규모 사이버 공격에도 대비하고 있다. 주요 은행들은 앞서 앤스로픽이 개발한 AI 모델 '미토스(Mythos)'의 초기 시험에 참여해 보안 취약점을 점검했다.

이와 함께 AI를 이용한 대규모 공격이 발생할 경우 고객 계좌를 보호하고 금융 서비스를 정상적으로 유지하기 위한 비상계획도 마련하고 있다.

유현석 기자 guspower@asiae.co.kr