自曝遭性暴力、分娩的“美女政治人物”竟是人工智能账号,日本政党震动
从性暴力受害、怀孕、分娩到育儿的“虚假人生”
实际运营者为立宪民主党男性党员
一名日本男性政党党员利用人工智能(AI)塑造虚构女性,并将其包装成真实政治人物在社交媒体开展政治活动,引发争议。经查,此人不仅利用AI生成面孔,还编造了性暴力受害、怀孕、分娩及家庭关系等虚构人生,令人震惊。尤其是近期美国也出现由AI生成的虚构美国女军人借政治信息吸引逾100万粉丝的案例,利用生成式AI制造“虚假人物”、并将其用于操纵政治和塑造舆论的担忧正日益加剧。
韩联社25日援引日本ANN新闻等报道称,一个以“Nakamura Riho@立宪民主党”名义活跃于社交媒体的账号,其女性身份已被证实并不存在,在当地引发争议。该账号主要分享在街头进行政治活动、背着孩子等照片,但这些图像均由AI生成。此外,账号简介写道:“基于因性暴力而怀孕和分娩的经历,致力于建设让女性能够安心生活的社会。”
从性暴力受害、怀孕、分娩到育儿,编造“虚假人生”在社交媒体开展政治活动
AI生成的不仅是照片。围绕名为“Nakamura Riho”的人物,其过往经历、家庭情况乃至分娩过程都被编造出具体故事。帖文称,“于5月2日凌晨2时30分生下一名3.62公斤的女婴”,还暗示将来参选,写道:“两年后,我将在父亲曾将现任部长追至仅差39票的选区参选。”这相当于为一名不存在的女性赋予了出生经历、家庭背景和政治履历。
ANN新闻调查显示,运营该账号的是一名隶属枥木县立宪民主党的男性党员。该男子向记者承认:“是我用AI制作的。我考虑不周,正在反省。”对于以虚构女性身份活动的原因,他解释称:“男性不受欢迎,所以想以女性身份获得关注。”立宪民主党也立即提出问题。立宪民主党干事长Tanabu Masayo表示:“已接到负责宣传人员的汇报”,将研究AI使用可能引发的政治和伦理问题并采取应对措施。
该党另行发表声明指出:“由生成式AI制作的虚构角色使用真实政党名称发布帖文,属于传播虚假信息,可能导致扭曲民主的结果,绝不能容许。”该党通过枥木县支部要求该男子停止使用党名,并停止发布利用AI图像制作的虚假信息。目前,该X账号已被暂停。
逾100万人相信的“美国女军人”也是AI生成
由AI生成的女性如同真实政治、社会人物般活动并吸引大量粉丝的案例并非首次。今年3月前后,美国一名名为“Jessica Foster”的金发美国女军人成为热点。其社交媒体上接连发布身穿美军作战服站在F-22“猛禽”战斗机前,或与美国总统Donald Trump一同出行等照片。她还积极发布打出“美国优先”旗号、支持Trump总统的政治内容。
粉丝相信她是真实的美国军人,留言称“感谢你的服役”。该账号开始运营约4个月后,粉丝数便突破100万。但“Jessica Foster”同样并不存在。《华盛顿邮报》报道称,在美军服役记录中无法确认名为Foster的人物,且账号发布的照片多处发现AI生成痕迹。
例如,作战服姓名牌未依照美军惯例标注姓氏“Foster”,而是标注名字“Jessica”;又将Trump总统参与的“和平委员会(Board of Peace)”错误写成“和平边境(Border of Peace)”,均是AI常见的错误。据悉,该账号借助政治信息吸引用户,再将其引导至付费成人内容平台实现盈利。争议发生后,Meta删除了该Instagram账号。
日本要求选举AI内容必须标注“AI”
目前,AI生成“虚假女性”的用途正从争取政治支持、操纵战争相关舆论,扩展至以恋爱和金钱为目的的诈骗。尤其此次日本事件发生在针对AI政治内容的监管不断加强之际,因此影响更为广泛。日本国会于7月13日通过修订后的《公职选举法》等法律。
修订法规定,若为选举活动等目的而在互联网上发布的图像或视频经生成式AI制作、变造,可能被误认为真实拍摄内容,须标注使用AI的事实。新规预计将于2027年3月起实施。
随着AI技术日益先进,已可为虚构人物赋予外貌以外的姓名、职业、家庭、过往经历乃至政治信念。尤其当社交媒体用户将其视为真实人物,并受到其政治信息影响时,舆论担忧这将不再只是“虚假照片”问题,而可能扭曲舆论形成本身。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。