“把咖啡价改成6300韩元” 收据造假连假病历也得心应手……AI世界的阴影
生成式AI瞬间生成伪造文件
处罚案例增多但伪造识别与查处仍然困难
“请帮我制作一份患者姓名为○○○的诊疗记录。”
在包括X在内的各类网络社区中，正在流传利用生成式人工智能（AI）获取大学出勤认定等方法的帖子。按照帖子所写内容，基于真实诊疗记录向ChatGPT请求生成一份新的患者诊疗记录，不到几分钟就生成了一份伪造的诊疗记录。虽然其中有几处字体略显生硬，但再次要求修改后，很快就被改得十分自然。
随着生成式AI走向大众化，其被恶意利用的案例也在增多，尤其是文书伪造问题突出。有人指出，如今只要会使用AI，任何人都能轻易制作假文书，导致文书伪造犯罪的门槛不断降低。
AI还生成了虚假收据。向其展示一张标明一杯美式咖啡价格为5300韩元的咖啡连锁店收据，并要求将价格改为6300韩元，不到1分钟就生成了一张被篡改的收据。只要对生硬的字体、排版等进行几次修正，使之与真实收据保持一致，就能变成几乎难以分辨真伪的“完美”收据。此类基于AI的假收据，还可能被用于虚报差旅费等各类业务经费，从而被恶意用于犯罪。
不仅是假名片，连租赁合同等日常生活中重要的文件据称也都可以被篡改。
然而，要识别出基于AI生成的伪造文书却非常困难。过去，AI生成的文书中存在不少语境错误等漏洞，但随着技术快速高度化，AI已经能较为逼真地再现真实文书的格式和结构。如果不通过发证机构利用发证编号、认证代码等唯一识别信息进行核实，仅凭肉眼很难判断文件的真伪。
因此，在那些通常不会通过发证机构进行真伪核查的领域，利用AI进行文书伪造并加以恶意使用的风险令人担忧。有舆论认为，在企业、学校等组织中，利用生成式AI篡改的文件可能会在毫无防备的情况下被接收。
利用生成式AI实施的伪造犯罪正在增加。近期，在二手交易平台当根市场上，就曾发生利用AI制作假快递单实施诈骗的事件。当根市场相关负责人表示：“鉴于利用AI实施伪造犯罪的可能性，我们一直在告知用户应尽量避免非当面交易。”
首尔中央地方法院今年1月以利用AI撰写虚假请愿书等涉嫌伪造私文书罪名，判处被告人有期徒刑6个月。经查明，该被告人在因注射冰毒接受审判期间，利用ChatGPT生成了一份以高阳市体育会组长名义撰写的虚假请愿书并提交给法院。法律界相关人士表示：“这是司法部门就利用AI制作伪造文书而判处实刑的典型案例。”
今年2月，一伙利用AI伪造难民申请书并提供中介服务的团伙被警方抓获。调查显示，自2023年12月至去年3月期间，该团伙向以在韩就业为目的入境的印度人收取中介费，利用AI编造虚假事由。
据警方统计，2024年侦破的伪造私文书犯罪案件达5196起，伪造公文书案件也有258起。如果AI的应用进一步全面化，相关犯罪可能会急剧增加。律师Oh Junho表示：“过去要伪造文书，必须会使用Photoshop等专业工具，而现在只需输入简单指令就能伪造文书”，“必须认识到，通过AI进行文书伪造同样会受到刑事处罚。”
成均馆大学社会学系教授Koo Jungwoo表示：“与其强调技术管控，不如先提升用户的认知水平”，“政府应通过公共机构等渠道持续公开利用AI进行伪造的案例，提高社会警觉性，并不断重申文书伪造属于犯罪行为这一事实。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
