用生成式AI工具制作的戏谑内容扩散
市民与遗属:“过分的侮辱,和真实历史不同”
专家称“亟需建立AI防止歪曲历史的装置”

在“三一节”到来之际,一段将独立运动家柳宽顺烈士进行戏谑化处理的生成式人工智能(AI)视频被发布到社交媒体上,引发争议。市民和遗属方面强烈反对,称这是“越界的嘲弄”,对于可能出现的历史歪曲也愈发担忧。


26日,据联合新闻社报道,一名抖音用户自本月22日起以一天为间隔,连续上传了3段以柳宽顺烈士为素材的人工智能视频。相关视频的累计播放量已超过20万次。

生成式AI连独立运动家都被拿来戏谑…三一节前“柳宽顺放屁”视频惹争议 View original image

该视频利用生成式人工智能技术制作。据悉,制作中使用的模型为OpenAI的视频生成人工智能“Sora”。内容包括烈士放屁的画面、对日章旗表达爱意的设定、上半身为烈士下半身为火箭的描绘场景等。尤其是在最后一段视频中,还配上“柳宽顺放屁火箭”的字幕,演绎其冲向宇宙的画面。据称,该视频以烈士在三一运动后被关押于西大门监狱时所拍摄的囚衣照为基础,利用人工智能进行图像复原后加以戏谑处理。被日本拷打而浮肿的脸庞经由人工智能技术再现,却被用来搞笑。


柳宽顺烈士于1919年参加三一运动后被捕,在遭受残酷拷问后,最终于17岁时在狱中牺牲。将被视为殉国象征的人物当作嘲弄对象,引发了强烈批评。观看视频的市民表示,这“已经越过可以当作幽默接受的界限”。一位市民担忧称:“如果今后再出现烈士向日章旗敬礼之类的画面,可能会有人将其误认为是真实历史。”


柳宽顺烈士的侄孙女、柳宽顺烈士纪念事业会天安支会会长 Yoo Hyekyung 也表示,“就像被刀或锥子刺进胸口般疼痛”,“后代一直小心翼翼地生活,担心先烈的功绩被遮蔽,从国家层面看这也是不应当发生的事情”。迄今为止,国内多利用人工智能技术复原独立运动家的生前样貌,以提高公众对历史人物的关注和报勋意识。但有舆论指出,如果像本次案例这样被用于戏谑或贬损伟人,人工智能技术的社会责任问题将会凸显。


在海外,类似争议早已进入公共讨论。OpenAI在去年10月已对在视频生成人工智能中使用马丁·路德·金牧师形象制作视频的行为进行封堵,理由是部分用户生成了侮辱逝者的内容。事实上,曾出现过伪造的虚假视频,将金牧师在1963年发表“I Have a Dream”演讲时,篡改为实施种族歧视性言行的样子,并在网上扩散,引发问题。历史学界指出,除了此类“嘲弄式复原视频”之外,还应关注人工智能本身存在的结构性局限。由于问答式人工智能服务的特性,即使传递了错误信息,用户也难以及时加以甄别。



另一方面,实际案例中,关于1932年上海虹口公园义举中尹奉吉义士投掷的炸弹形状,人工智能最初回答为“便当盒形状”,在用户要求再次确认后又改口为“水壶形状”。有舆论担忧,即便是小小的错误,如果反复出现,也可能扰乱公众的历史认知。专家表示,“为了使人工智能技术朝公益方向应用,有必要制定关于伟人和历史人物形象使用的指引,并配备技术性封堵装置”,“尤其是在三一节等国家纪念日到来之前,全社会应对损害历史意义的内容保持警惕意识”。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点