"사장님이랑 변호사님 지시야" 1700억 '꿀꺽'…노트북 한 대로 1분 만에 '가능'한 수법은?

AI 목소리에 속아 1700억 피해
美서 기업 상대 범행 한 3명 기소
"노트북 1대로 1분 만에 음성 복제"

생성형 인공지능(AI)을 이용해 기업 최고경영자(CEO)와 대형 로펌 변호사의 목소리를 위조해 여러 기업에서 1억2900만달러(약 1759억원)를 가로챈 혐의로 남성 3명이 미국에서 재판에 넘겨졌다.

8일(현지시간) 뉴욕타임스는 뉴욕 남부연방검찰청이 지난 5일 공개한 기소장을 인용해 이들의 범행이 2024년 7월부터 1년 6개월 이상 이어졌다고 보도했다.

일당은 AI 음성 복제 기술을 이용해 기업 임원들의 목소리를 정교하게 흉내 낸 뒤 회계·재무 담당 직원에게 전화를 걸어 거액의 송금을 요구한 것으로 조사됐다. 범죄 조직은 미국과 유럽의 기업을 범행 대상으로 삼았다. 먼저 기업의 회계·재무 담당 직원에게 이메일을 보내 접근했다. 이메일은 기업 CEO가 보낸 것처럼 꾸며졌다. 기밀 유지가 필요한 금융 거래가 진행 중이라는 내용을 담았다.

이후 직원에게 AI로 복제한 CEO 목소리로 전화를 걸어 비밀 거래를 위한 즉시 송금을 지시했다. 전화 속 목소리는 직원들이 평소 알고 있던 상사의 목소리와 매우 흡사했다. 범인들은 거래가 긴급하게 처리돼야 한다며 직원들에게 즉시 계좌 이체를 요구했다.

사기는 여기서 끝나지 않았다. 대형 로펌 소속 변호사를 사칭한 공범이 피해 직원에게 다시 연락해 변호사 행세를 하면서 송금 절차를 마무리하는 역할을 했다. 일부 범행에서는 CEO의 모습을 본뜬 딥페이크 영상 통화까지 시도한 것으로 알려졌다.

대표적인 피해 사례를 보면 미국 미주리주의 한 병원 체인 회계 담당자는 평소 알고 지내던 CEO의 목소리와 똑같은 목소리로 걸려 온 전화를 받았다. 직원은 이들의 지시를 믿고 돈을 보냈다가 총 480만달러(약 65억원)를 날렸다. 영국 핀테크 기업(피해액 1160만달러)과 미국 플로리다주 반려동물 사료업체(520만달러), 미국 매사추세츠주 뮤추얼펀드 운용사(460만달러) 등도 같은 수법에 당했다.

일당은 '변호사 통화'라는 제목의 손으로 쓴 통화 대본을 만들어 사용했다. 여기에는 규제 관련 용어와 내부자거래 위험 등에 관한 내용이 포함됐다. 전화를 받은 직원에게 해당 거래가 민감한 법률·금융 사안이며 외부에 알려져서는 안 된다고 강조하기 위해서였다.

피고인은 이스라엘 국적의 샤론 하잔(54)과 가이 시트리트(42), 영국 거주자인 제이컵 솔(41)이다. 지난 6월부터 9월 사이 스페인과 영국에서 차례로 체포돼 미국 송환을 기다리고 있다. 범죄 조직은 기업들로부터 가로챈 돈을 암호화폐로 전환한 뒤 분배한 것으로 조사됐다. 하잔은 지난 3년간 4억달러(약 5455억원) 이상의 자금을 세탁했다고 자랑하기도 한 것으로 전해졌다.

이들에게는 전신 사기와 가중 신원 도용, 자금세탁 등 혐의가 적용됐으며, 전신사기와 자금세탁은 혐의별로 최고 징역 20년을 선고받을 수 있다. 가중 신원 도용 혐의에는 별도의 형량이 적용된다.

미연방수사국(FBI)에 접수된 AI 관련 사기 신고는 지난해 2만2000건을 넘어섰다. 피해액은 8억9000만달러(약 1조2000억원)를 웃돌았다. 딥페이크 전문가인 해니 패리드 미국 다트머스대 교수는 최신 노트북 1대만 있으면 1분도 되지 않는 음성 자료로 특정 인물의 목소리를 복제할 수 있다고 설명했다. 또 사진 한 장만으로도 해당 인물의 모습을 본뜬 '딥페이크 아바타'를 만들 수 있다고 경고했다.

그는 "사람들이 가짜 음성과 영상을 판별하는 능력은 무작위로 정답을 맞히는 수준보다 약간 나은 정도에 불과하다"고 지적했다. 그러면서 최근 한 CEO가 자신에게 "이제부터 모든 업무를 직접 만나 처리해야 할 것 같다"고 말했다는 일화도 전했다. AI로 만든 목소리와 영상이 실제 인물과 구별하기 어려운 수준에 이르면서 기업 내부의 의사소통 및 결재 체계마저 위협받고 있다는 것이다.

김현정 기자 khj27@asiae.co.kr