SCMP聚焦韩国AI操控案例
“韩国AI内容消费位居世界前列”
现实与虚拟界限模糊,被指安全防护不足

有外媒分析称,随着生成式人工智能(AI)在韩国社会迅速普及,虚拟与现实的界限正在变得模糊。


疑似由人工智能内容生成的棒球转播视频中一名女性的画面截图。Instagram供图

疑似由人工智能内容生成的棒球转播视频中一名女性的画面截图。Instagram供图

View original image

17日(当地时间),香港《南华早报》(SCMP)以“现实感缺失:韩国如何丧失了对AI的现实感”为题刊文报道。该媒体介绍了在韩国接连引发热议的多起AI生成内容案例,并判断称,相比技术扩散的速度,社会性的安全装置明显滞后。


SCMP选取的典型案例是近期在社交媒体上刷屏的所谓“棒球场女神”视频。这段时长5秒的视频拍摄的是一名坐在职业棒球比赛看台上的女性,被配上“平均的韩国女性”“韩国棒球女神”等标题传播,播放量突破1500万次,引发关注。


但这名女性并非真实人物,而是由AI生成的虚假形象。棒球迷们根据电子显示屏上出现已退役球员与现役球员对决的画面、“最强斗山”应写成“最强斗山”却被误写成“最强是斗山”的应援标语等线索,识破了这一事实。


报道还提到,AI生成内容不仅停留在“好玩”的层面,甚至已经动摇到公共安全。今年4月,大田O-World动物园饲养的狼“Neukgu”出逃事件发生时,社交媒体上流传出一张似乎是狼在学校前十字路口游荡的图片。这张照片不仅影响到灾难应对部门向居民发放的疏散公文,也被用进了新闻发布会的材料中,但实际上是一张用生成式AI制作的合成图片。此后,制作该图的40多岁上班族因涉嫌妨碍公务被警方抓获。


由人工智能生成的伪造狼群照片。SNS截图供图

由人工智能生成的伪造狼群照片。SNS截图供图

View original image

SCMP报道指出,韩国是全球所谓“AI Slop(AI垃圾内容)”消费最活跃的国家之一。所谓AI垃圾内容,是指为博取点击量而被大规模生产的低质量AI内容。全球视频编辑平台Kapwing分析称,以韩国为基地的11个AI垃圾内容YouTube频道,累计播放量高达约84.5亿次。


报道还提到2024年引发社会强烈震动的Telegram深度伪造性犯罪事件。大量将未成年人和女性脸部合成的非法影像被大规模传播,暴露出AI被恶意利用的风险。


“这种东西为什么要做?”蔓延韩国的诡异现象…外媒发出警示 View original image

韩国AI安全研究所所长Kim Myeongju在接受SCMP采访时表示:“在对外貌和形象有着高度文化关注的韩国,AI正在充当一面被扭曲的镜子,替人们压抑的欲望和挫折进行代偿性满足”,“过度沉迷会助长逃避现实,形成降低生活满意度的恶性循环。”



SCMP指出,韩国对生成式AI的接受速度位居世界前列,但在监管和伦理讨论方面仍然明显不足。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点