韩国产业通商资源部：“推进与深度伪造相关的生成式人工智能水印制度立法”

by Hwang Seoyul

Published 28 Aug.2024 16:59(KST)

以“生成式AI”为主题的国民生活科学技术论坛召开
科技部：“将持续推进深度伪造检测与拦截技术研发”

科学技术信息通信部表示，将在《人工智能（AI）基本法》中纳入一项内容：当使用生成式人工智能制作内容时，必须标注水印，以此作为应对深度伪造负面影响的替代方案。《AI基本法》是一部涵盖培育人工智能产业与相关监管内容的法案。

28日，在第57届国民生活科学技术论坛上举行的生成式AI相关讨论中，科学技术信息通信部信息通信政策总括科长 Kim Namcheol 表示：“我们正准备在《AI基本法》中纳入与假新闻和深度伪造相关的水印制度”，“通过规定必须标明是生成式AI制作的内容，来提高透明度。”本次论坛以“生成式AI的社会议题与应对”为主题举行。

Kim 科长接着表示：“针对高风险AI，我们也在推进立法工作，将反映与AI安全研究所相关的条款，以确保其可信度。”

不过，他也指出，即便引入水印制度，法律在现实中仍存在局限，因此提升公众对生成式AI的认知同样重要。Kim 科长表示：“Telegram在国内没有服务器，即使知晓其违法事实，也难以进行访问”，“我们正尽最大努力应对，但也存在法律难以跟上技术变化的困难。”

他还表示：“从学校开始，应结合个人伦理和文化开展不接受非法内容的相关教育”，“在共同体层面，也需要同步推进风险认知和提升认知的相关项目。”

科学技术信息通信部补充称，为应对深度伪造，除上述措施外，自2022年起还在开展检测和拦截技术的研究开发工作。

他同时强调了预计于9月成立的国家人工智能委员会的作用。Kim 科长表示：“本月有关（委员会）设立依据的规定已经公布，目前正在进行民间委员的任命工作”，“委员会将在下月成立，届时政府、民间专家和企业将共同商讨，在发展积极面的同时，为深度伪造等负面影响制定安全防护措施，这将成为一个重要契机。”

当天的讨论中，还可以听到关于政府如何看待生成式AI将带来的就业变化的意见与对策。Kim 科长表示：“生成式AI有时会改变岗位本身，也可能带来职务内容的变化”，“辅助性工作或简单技术性工作可能更为脆弱，因此我们将从小学到研究生阶段，扩大AI能力培养课程。”