[亚经视角] 人工智能垃圾内容时代……虚假成为真实的世界

by Jo Kangwook

Published 02 Sep.2026 11:35(KST)

人工智能生成的尼泊尔洪灾虚假视频扩散
惨剧沦为提高播放量的“牟利手段”
“垃圾内容”生产第一国的现实令人苦涩

巨大的泥流吞没村庄，桥梁在湍急水流中坍塌。救援人员和居民只能茫然望着被泛滥河水夷为废墟的村庄。近期，附有“尼泊尔洪灾现场”说明的此类图片和视频正在社交媒体上迅速传播。

人工智能生成的尼泊尔洪灾虚假视频。社交媒体截图供图

但问题在于，其中不少内容是由人工智能生成的图片及过往灾难视频等虚假信息。死亡人数近1000人、失踪人数逼近4000人的尼泊尔特大洪灾惨剧，似乎仅被追逐播放量和话题热度的社交媒体用户当作可盈利的内容。

虚假内容冒充真实信息之际，真实视频反而遭到怀疑。洪水淹没西藏吉隆口岸后流入尼泊尔的闭路电视画面，甚至让国外媒体以及韩国国内都出现“是否为人工智能视频”的质疑，可见真伪已难以辨别。尤其是过往视频中人物、建筑和水流的动态皆为真实，比人工智能生成内容更难识别。

甚至还有企图侵吞灾民捐款的虚假快速响应码在社交媒体上传播，特大洪灾惨剧俨然沦为牟利场。尼泊尔《加德满都邮报》报道称，社交媒体上正流传冒用总理灾难救助基金名义、要求向个人账户或电子钱包汇款的虚假快速响应码，以及仿制政府机构标志、名称和格式的虚假快速响应码。除了“靠播放量赚钱”外，利用同情心侵吞救援资金的诈骗行为也已开始蔓延。对此，尼泊尔政府呼吁媒体和社交媒体用户注意，未经核实、遭篡改或由人工智能制造的传言，反而会加剧遇难者家属的痛苦。政府还对有报告称个人和团体上传未经批准的快速响应码及个人信息进行募捐表示担忧。

意为“食物残渣”或“污物”的“垃圾内容”（Slop），是英国时事周刊《经济学人》评选出的2025年度词汇。有分析认为，生成式人工智能的发展带来了“创作民主化”，却同时导致了“垃圾生产自动化”。在垃圾内容中，语境、叙事和真实性都不是必需品；取而代之的是选取刺激性话题，以获得算法青睐。

韩国国内不也曾充斥过将梨泰院、务安机场惨剧等当作牟利手段的刺激性内容吗？今年1月，美国视频编辑平台Kapwing发布的《人工智能垃圾内容报告》显示，韩国被评为“观看、制作和传播垃圾内容最多的国家”第一名，令人不禁感到苦涩。