官方照发布前伪造照片流出

委内瑞拉总统尼古拉斯·马杜罗于本月3日(当地时间)在美国总统Donald Trump的命令下被逮捕并押送至美国的消息传出后,令全世界陷入混乱。有观点指出,尽管生成式人工智能开发公司一直宣称设置了“安全装置”,但在现实中却未能真正发挥作用。


据《纽约时报》(NYT)5日(当地时间)报道,3日马杜罗总统被捕的消息传出后,社交媒体上迅速被各种照片占据:他被戴上手铐由缉毒局特工押送,或在军用飞机上被军人包围等。这些大多是通过人工智能图像生成工具制作的假照片。


描绘马杜罗被捕场面的伪造照片。X截图

描绘马杜罗被捕场面的伪造照片。X截图

View original image

由于Trump总统亲自转发,这些图片在社交媒体上迅速扩散。但《纽约时报》分析称,“照片分辨率极低且画面倾斜,与外界所知的他穿运动服被捕的情况不同,图中却是身着西装,因此可信度较低”。


专家评价称,这是在历史性时刻由人工智能生成虚假图像的首例案例。美国数字民主研究所秘书长Roberta Braga表示:“我从未见过如此多的人工智能图像用来描绘本应是现实中某一瞬间的场景。”


当时部分拉丁美洲媒体确实误将这些假照片当作真实逮捕现场进行报道,之后才改用真正的照片替换。


在加拉加斯运营事实核查网站的Jean Freddy Gutierrez表示:“部分拉丁美洲媒体也被这些假图像所蒙骗”,“之后这些假照片被替换成了Donald Trump总统在社交媒体上发布的那几张图片”。


据推测由人工智能生成的委内瑞拉总统 Nicolás Maduro 穿囚服的伪造照片。X 截图

据推测由人工智能生成的委内瑞拉总统 Nicolás Maduro 穿囚服的伪造照片。X 截图

View original image

据一项统计,相关虚假图像和视频在不到两天的时间里,在X(原推特)平台上的总浏览量就超过1410万次。


人工智能开发公司方面表示,其规定中禁止生成虚假信息以及合成公共人物形象,但在实际运营过程中,这些所谓的“安全装置”似乎并未奏效。



Gemini和Grok立即生成了相关照片,而ChatGPT则回复称无法生成马杜罗的图像。不过,《纽约时报》通过另一家使用ChatGPT模型的网站发出请求时,却成功生成了相关图像。《纽约时报》批评称,“实验结果显示,大多数人工智能无视了防止技术被滥用的相关规定”。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点