议员 Join Cheol:“必须遏制AI助长的深度伪造泛滥”
提出“AI生成内容标识强制法”议案
即使AI基本法实施 流通环节仍无防护
被指需完善标识义务与快速下架依据
共同民主党议员 Jo Incheol(光州西区甲)于20日代表提出两项以引入人工智能生成物标识制度、快速应对虚假和夸大人工智能广告为核心内容的配套法案《信息通信网法》和《广播·媒体通信委员会设立法》修正案。
该法案是在这样的问题意识下制定的:深度伪造等人工智能生成物通过信息通信网迅速扩散,正在形成一种用户难以判断真伪的环境,但在平台等流通环节对其进行规制的制度性装置却十分薄弱。
据Jo Incheol议员办公室介绍,随着近期技术高度化,连普通用户都难以分辨真假的人工智能生成物,正通过社交媒体和平台被无差别传播。实际上,在人工智能合成的“虚假警察出动”视频案例中,大量用户将其误认为真实情况加以消费,从而引发了社会混乱。
这种环境对数字信息辨别能力相对较低的数字弱势群体极具致命性。
从科学技术信息通信部的《2023年数字信息差距实态调查》来看,高龄群体的数字信息化水平为70.7%,在信息弱势群体中最低。舆论指出,日常消费YouTube和社交媒体的儿童和老年人,一旦接触到利用人工智能操纵的假专家视频或深度伪造视频等内容,很有可能将其视为事实,从而遭受人身或财产损失。
将于22日开始施行的《人工智能基本法》虽然规定了对生成式人工智能结果物进行告知和标识的义务,但这仅限于开发人工智能或利用人工智能提供产品与服务的“人工智能经营者”。在门户网站、平台等流通与扩散阶段的标识义务和管理责任事实上仍处于立法空白状态,因此被指在保护国民方面存在局限。
Jo议员提出的《信息通信网法修正案》为弥补这一制度性空白,主要内容包括:▲(平台)向平台经营者赋予对发布者和用户的人工智能生成物标识进行维持和管理的义务;▲(发布者)向直接制作、编辑并发布人工智能生成物者赋予标识人工智能生成物的义务;▲(用户)禁止任意删除和损毁人工智能生成物标识等。
Jo议员办公室解释称,此举是为了让用户至少具备判断相关信息究竟是真实信息还是人工智能生成物的基本标准。
同时作为配套法案提交的《广播·媒体通信委员会设立法修正案》,旨在解决利用人工智能进行虚假和夸大广告的审议延迟问题。通过将与国民健康直接相关的药品、化妆品、医疗器械等领域的不当广告追加纳入书面审议对象,实现制度化,以便能够紧急应对。
Jo议员表示:“随着人工智能技术高度化,国民已经到了连自己接触到的信息是‘真实的,还是人工智能制作的’都难以区分的地步,但用于保护用户的制度性装置依然不足。如果说《人工智能基本法》讨论的是人工智能开发者的责任,那么本次法案则是作为在平台等流通阶段明确国民保护责任的补充立法,其相当一部分内容也与政府的应对方向保持一致。”
他接着强调说:“我们的目的并非要抑制人工智能技术发展,而是要从确立用户保护的基本标准做起,使创新能够在信任之中持续下去。为使包括数字弱势群体在内的全体国民不再在深度伪造威胁面前毫无防备,国会和政府必须迅速弥补制度空白。”
Jo议员最后表示:“以在信息通信网中对人工智能生成物进行明确标识为出发点,我将持续推进相关立法,使人工智能产业发展与用户保护能够实现平衡。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。