“看着上司脸转走34亿后……”深度伪造诈骗搅乱香港
用AI深度伪造篡改高管脸孔与声音
员工视频通话后被骗汇出340亿
在香港，一伙利用人工智能（AI）驱动的深度伪造（DeepFake）技术实施网络钓鱼诈骗、骗取数亿资金的犯罪团伙被抓获。他们通过深度伪造技术伪造企业高管的脸部和声音，欺骗财务负责人，将资金汇入特定账户，从而骗走巨额资金，此事曝光后引发震惊。外界预计，今后各国针对人工智能技术的监管将会进一步收紧、趋于严格。
据美国有线电视新闻网（CNN）4日（当地时间）报道，香港警方于本月2日召开发布会，宣布抓获了6名利用深度伪造技术实施诈骗的嫌疑人。根据香港警方介绍，这伙人通过视频通话联系一家总部设在英国、在香港运营的跨国企业的财务负责人，诱使其汇出2亿港元（约合340亿韩元），随后将这笔钱据为己有，目前正被指控相关罪行。
该企业财务负责人之所以会上当受骗，是因为在视频通话中向其下达汇款指令的那个人，无论脸部还是声音，都与该公司首席财务官（CFO）一模一样。警方调查显示，这名负责人在通话中看到和听到的内容，全部是利用人工智能技术合成、克隆的伪造影像与声音。
像这样滥用人工智能制造出高度精细的深度伪造技术，并以此实施犯罪的情况愈发猖獗，不仅让香港警方高度警惕，也令全球各国的执法机构如临大敌，因为类似犯罪正跨越国境，在世界各地频繁发生。
早在2021年，阿拉伯联合酋长国的一家银行就曾接到一名平日有业务往来的大型企业高管打来的电话，按照对方指示汇出约合4.2亿韩元的资金，事后才发现是诈骗案件。此外，去年4月，中国内蒙古也曾报道一起案件：一名企业家被冒充其朋友声音和脸部的“深度变声”视频通话所骗，汇出8亿韩元。上个月，美国流行歌手Taylor Swift的脸被合成到淫秽影像上并在网上传播，也曾引发巨大争议。
尤其是今年被称为“超级选举年”，全球约40多个国家将举行各种议会选举和总统选举，人们担心，利用深度伪造技术制造的各类假新闻与犯罪活动将会更加猖獗。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
