“这是老板和律师的指示”骗走1700亿韩元……仅凭一台笔记本电脑、不到1分钟就能实现的手法是什么？
被AI声音骗走1700亿韩元
美国起诉3名针对企业实施诈骗的男子
“一台笔记本电脑，1分钟内即可克隆声音”
3名男子因涉嫌利用生成式人工智能伪造企业首席执行官和大型律师事务所律师的声音，骗取多家企业共计1.29亿美元（约合1759亿韩元），在美国被提起公诉。
《纽约时报》8日（当地时间）援引纽约南区联邦检察官办公室5日公布的起诉书报道称，这伙人的犯罪行为从2024年7月开始，持续了1年半以上。
调查显示，这伙人利用人工智能语音克隆技术，逼真地模仿企业高管的声音，随后致电负责会计和财务的员工，要求转账巨款。该犯罪团伙将美国和欧洲的企业列为目标。他们先向企业会计、财务部门的员工发送电子邮件，以此接近对方。邮件被伪装成由企业首席执行官发出，内容称正在进行一笔需要保密的金融交易。
随后，他们用人工智能克隆的首席执行官声音给员工打电话，指示对方立即转账，以完成秘密交易。电话中的声音与员工平时熟悉的上司声音极为相似。犯罪分子声称交易必须紧急处理，要求员工立即转账。
骗局并未就此结束。一名冒充大型律师事务所律师的同伙再次联系受害员工，假扮律师，负责完成转账手续。据称，在部分案件中，他们甚至试图通过深度伪造视频通话，模仿首席执行官的形象。
一起典型案例中，美国密苏里州一家连锁医院的会计人员接到电话，对方的声音与其平时熟悉的首席执行官如出一辙。该员工相信了对方的指示并汇出资金，最终损失共计480万美元（约合65亿韩元）。英国一家金融科技企业（损失1160万美元）、美国佛罗里达州一家宠物食品企业（520万美元）以及美国马萨诸塞州一家共同基金管理公司（460万美元）也遭遇了同样的骗局。
这伙人还制作并使用了一份手写通话脚本，标题为“与律师通话”。脚本中包含监管相关术语以及内幕交易风险等内容，目的是向接听电话的员工强调，该交易涉及敏感的法律和金融事项，不得对外泄露。
被告分别是以色列籍的Sharon Hazan（54岁）和Guy Sitrit（42岁），以及居住在英国的Jacob Sol（41岁）。他们于2025年6月至9月间先后在西班牙和英国被捕，目前正等待被引渡至美国。调查显示，该犯罪团伙将从企业骗取的钱款兑换成加密货币后进行分赃。据称，Hazan还曾炫耀称，过去三年里他洗钱金额超过4亿美元（约合5455亿韩元）。
三人被控电信诈骗、加重身份盗用和洗钱等罪名。其中，电信诈骗和洗钱罪每项最高可判处20年监禁；加重身份盗用罪则适用单独刑罚。
去年，联邦调查局收到的人工智能相关诈骗举报超过2.2万起，损失金额超过8.9亿美元（约合1.2万亿韩元）。深度伪造专家、美国达特茅斯学院教授Hany Farid解释说，只需一台最新款笔记本电脑和不足1分钟的语音素材，就能克隆特定人物的声音。他还警告说，仅凭一张照片也能制作出模仿当事人形象的“深度伪造虚拟形象”。
他指出：“人们辨别虚假声音和视频的能力，只比随机猜对的水平略高一些。”他还讲述了一段经历：最近有一位首席执行官对他说：“从现在起，我恐怕得和所有人当面处理工作了。”人工智能生成的声音和视频已经逼真到难以与真人区分，甚至开始威胁企业内部的沟通和审批体系。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
