因“深度伪造”犯罪激增朝野齐推一揽子立法

by Moon Hyewon

Published 04 Sep.2024 07:50(KST)

主要内容为惩罚与预防
女性家庭委员会4日就当前问题进行质询

随着深度伪造（基于人工智能的图像合成技术）犯罪受害案例接连出现，国会正密集推出相关法案。

深度伪造。亚洲经济DB供图

据国会议案情报系统4日消息，自上月27日“Telegram深度伪造事件”曝光至今一周内，与深度伪造相关的提案共计28件。尤其是与深度伪造性犯罪相关的《有关性暴力犯罪处罚等的特别法修正案》就有18件被提出。

这些法案主要聚焦于处罚和预防。国民力量党议员、出身于三星电子社长的 Ko Dongjin 于2日提出的《全面深度伪造防止及处罚法（刑法部分修正法律案）》，明确了对恶意利用人工智能（AI）技术实施深度伪造犯罪的处罚标准。目前，《有关性暴力犯罪处罚等的特别法》只能在“以散布为目的”的情况下予以处罚。

根据该法案，即便并非以散布为目的，只要违背当事人意愿制作（出售、散布、利用）相关作品，或持有、购买、观看该作品并损害当事人名誉者，均可予以处罚。法案还包括，应增设不仅针对性犯罪影像物，也针对声音和照片的深度伪造监管及处罚条款。违反法律时，可处以最高5年以下有期徒刑或5000万韩元以下罚金。

国会女性家庭委员会在野党干事、共同民主党议员 Kim Hankyu 以及同党议员 Han Jeongae 也分别提出了《性暴力处罚法修正案（有关性暴力犯罪处罚等的特别法部分修正法律案）》，内容包括不仅要处罚散布深度伪造性犯罪视频者，也要一并处罚观看者。

国民力量党议员 Kim Jangkyom 于1日提出的信息通信网络法修正案，则侧重于预防与深度伪造相关的犯罪。其核心内容是强制在线平台运营者对AI生成物进行标识。近期因非法AI生成物引发的性犯罪已成为社会问题，为此法案拟赋予门户网站和平台等相应的角色与责任。根据法案，达到一定规模以上的门户和平台运营者必须提供利用AI技术生成的虚拟信息标识功能，否则将被处以不超过1000万韩元的罚款。