人工智能生成的尼泊尔洪灾虚假视频扩散
惨剧沦为提高播放量的“牟利手段”
“垃圾内容”生产第一国的现实令人苦涩

巨大的泥浆吞没村庄,湍急的水流冲垮桥梁。救援人员和村民只能茫然地望着被泛滥河水夷为平地的村庄。最近,社交媒体上标注着“尼泊尔洪灾现场”的照片和视频正在迅速传播。


人工智能生成的尼泊尔洪灾虚假视频。社交媒体截图供图

人工智能生成的尼泊尔洪灾虚假视频。社交媒体截图供图

View original image

然而,问题在于,其中相当一部分内容是人工智能生成的图像或过去的灾害视频等假内容。尼泊尔特大洪灾已造成1000人死亡、近4000人失踪,但这场惨剧似乎正被追逐浏览量和话题热度的社交媒体用户当作牟利内容。


假内容冒充真相之际,真实视频反而遭到怀疑。洪水淹没西藏吉隆口岸后,监控视频中的洪水流向尼泊尔,连海外媒体乃至韩国国内都有人质疑这是否是人工智能生成的视频,可见真假已难以分辨。尤其是过去拍摄的视频中,人物、建筑和水流的动态都是真实的,因此比人工智能生成的内容更难辨别。


甚至还有人将假冒捐款二维码分享到社交媒体,企图侵吞灾民捐款,特大洪灾惨剧也因此沦为牟利工具。尼泊尔日报《加德满都邮报》报道称,社交媒体上正在传播假二维码,这些二维码要求人们以总理救灾基金的名义向个人账户或电子钱包转账,或仿冒政府机构的标识、名称和格式。除了靠“浏览量牟利”,利用人们的同情心侵吞救援资金的诈骗行为也开始出现。对此,尼泊尔政府呼吁媒体和社交媒体用户,不要传播未经核实、经过篡改或由人工智能生成的传言,因为这些内容只会加剧遇难者家属的痛苦。政府还对有关个人和团体擅自发布二维码及个人信息募款的报告表示担忧。


意为“食物残渣”或“污物”的“垃圾内容”(Slop),被英国时事周刊《经济学人》评为2025年度词汇。有分析指出,生成式人工智能的发展带来了“创作民主化”,却也导致“垃圾生产自动化”。垃圾内容不需要背景、叙事或真实,只需选取能够吸引算法青睐的刺激性主题。


在韩国,利用梨泰院、务安机场等惨剧牟利的煽情内容不也曾泛滥吗?今年1月,美国视频编辑平台Kapwing发布的《人工智能垃圾内容报告》将韩国列为“观看、制作和传播垃圾内容最多的国家”第一名,这一事实令人唏嘘。



灾害发生后,信息需求激增,人们争夺关注度的竞争也愈发激烈,受灾现场因而沦为假新闻和煽情内容的素材。最终,甚至出现救援工作延误的情况,让灾难遇难者及其家属再受一次伤害。我们应当认真想一想:眼前这段十几秒的视频能给我带来什么价值?我制作的视频又会对他人产生什么影响?

[亚经视角] 人工智能垃圾内容时代……虚假成为真实的世界 View original image


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点