删除水印的二次加工视频难以制裁
《人工智能基本法》的标识义务并不以用户为对象
利用生成式人工智能制作的低质量视频“人工智能残渣（slop，意为残渣）”正在TikTok、YouTube等主要平台上迅速传播，但能够遏制这一现象的明确解决方案仍未出台。尽管平台通过单独标注内容为人工智能生成，并强化变现标准以防止人工智能内容被无序滥用，但仍有观点指出，用户或制作者对人工智能生成物标识进行删除、篡改的问题，依然处于监管盲区。
23日，美国视频剪辑平台Kapwing分析TikTok上的1.0742万条视频后发现，新账号接触到的视频中，59%为人工智能残渣，这一比例约为YouTube（21%）的3倍。
人工智能残渣扩散的背后，是视频平台的收益结构。主要平台并非依据视频质量，而是基于播放量和观看时长来确定收益。使用生成式人工智能制作视频可以降低成本，因此，越是大批量供应制作粗糙的视频，就越容易获得收益。
不过，平台企业并非对人工智能残渣的扩散完全放任不管。YouTube自2024年起要求公开内容是否由人工智能生成或经过人工智能变形；今年5月又开始运用自身的人工智能检测技术，自动识别内容是否使用人工智能并附加标签。Naver也将从29日起，为提高优质视频占比，强化短视频服务“Clip”的可变现内容标准。其方式是审查是否使用人工智能、是否属于批量生产型内容等，并对低质量内容不适用广告激励。
但视频制作者在对人工智能视频进行二次加工时篡改人工智能生成标识的问题，仍处于盲区。由此，带有被删除或篡改标识的人工智能生成物一旦通过网络平台等再次流通，便难以核实真伪。今年韩国随着《人工智能基本法》施行，已对人工智能生成物课以标识义务，但由于监管对象仅限于企业经营者，问题解决仍面临困难。也就是说，难以阻止人工智能生成物流通者或使用者对人工智能生成物标识进行再加工或破坏的行为。
庆熙大学媒体学系教授Park Jongmin表示：“除非涉及侵犯肖像权、色情性、暴力性等明显问题，否则目前缺乏能够对视频制作逐一加以制裁的法律监管。”他解释称，“这是随着利用人工智能制作视频的成本降低而出现的副作用。”他还补充说：“用户有必要具备区分内容是否由人工智能生成的媒介素养能力。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
