李在明总统：“深度伪造若无标识会被当成‘真实证据’……流通环节也应监管”
李在明总统主持各部门工作汇报
变造真实人物的人工智能生成内容须作显著标识
"破坏、删除标识的传播者不受监管……应制定应对措施"
针对全球平台的二次伤害，强调“应寻找阻止办法”
李在明总统16日表示，若难以与真实人物区分的深度伪造视频和图片在未作单独标识的情况下流传，可能会被当作证明事实的证据，因此不仅要加强制作环节的监管，也应强化流通环节的监管。
李在明当天在青瓦台迎宾馆举行的广播媒体通信委员会工作汇报会上表示：“如今人工智能创作内容与真实场景极为相似，已到了难以区分的程度。若不加以标识，就会对人们构成某种证据效应，让人觉得‘这是真的’。”
他接着强调：“没有标识可能引发严重误解，一旦遭到滥用，后果将十分严重。人工智能创作内容带来的风险已经在现实中显现，必须制定应对措施。”
根据现行《人工智能基本法》，由生成式人工智能制作的视频和图片必须标明其为人工智能生成内容。尤其是利用人工智能改变真实存在人物或实际现象的深度伪造内容，必须以用户能够立即识别的可视方式进行标识。违反标识义务者可被处以不超过3000万韩元的罚款，但相关处罚规定目前处于为期1年的缓期实施状态。
李在明还具体询问了深度伪造在制度层面的定义及适用范围。政府方面汇报称，将与原型不同、对真实人物或实际现象进行变形的人工智能生成内容解释为深度伪造，并将其与纯粹的电影、艺术创作区分开来。
李在明列举将特定女性的脸部或身体合成至淫秽内容等案例时指出：“如果未作标识，除依据一般刑法等予以处罚外，也属于人工智能相关法律规定的制裁对象，但目前制裁处于缓期实施状态，罚款上限也仅为3000万韩元。”
他尤其指出，现行法律仅对人工智能模型开发商和使用企业课以标识义务，却无法直接监管删除生成内容标识、或截取部分内容后再次传播的一般传播者。
李在明问道：“对于从带有人工智能标识的视频中仅截取无标识部分使用的人，是否没有标识义务？”政府相关人士回答称：“根据现行《人工智能基本法》，传播者或在YouTube等平台使用相关内容的个人不属于监管对象。”
广播媒体通信委员会说明，针对损毁或删除标识的传播者实施监管的法案已提交国会后，李在明表示：“不能只是说要看看国会如何处理。主管机构必须明确方向并争取合作。”
其意在于，即使制作者添加了标识，若在流通过程中被删除或剪辑，监管实际上可能失效，因此政府应将流通环节的责任也纳入制度化管理。
深度伪造受害内容在全球平台上反复传播的问题也受到讨论。国民参与团提出，在门户网站、YouTube、X等平台上，针对深度伪造受害者的二次伤害持续发生，但举报后真正促成删除的案例极少，因此需要建立有效的举报与救济体系。
李在明指出，在韩国国内门户网站中，当事人举报诽谤或权利受侵害时，平台会先行屏蔽相关帖文，再经过异议申诉程序；但海外平台未能妥善完成身份核验和删除措施。
针对广播媒体通信委员会以贸易问题、技术规避和预算不足等说明监管全球平台的现实局限，李在明表示：“即便如此，也不能放任不管。现场正在发生极其严重的损害。”
他接着强调：“以这样那样的理由说明无法处理，意义并不大。思考如何阻止、如何将损害降至最低，是政府的职责。”
广播媒体通信委员会表示，目前正在运营数字性犯罪受害者综合支援团和人工智能犯罪应对跨部门协商机制，并将加强应对全球平台传播非法、有害信息的措施。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
