自曝遭性暴力、分娩的“美女政治人物”竟是人工智能账号，日本政党震动
从性暴力受害、怀孕、分娩到育儿的“虚假人生”
实际运营者为立宪民主党男性党员
一名日本男性政党党员利用人工智能制作虚拟女性，并将其包装成真实政治人物在社交媒体上开展政治活动，引发争议。调查发现，他不仅利用人工智能生成面孔，还虚构了性暴力受害、怀孕、分娩及家庭关系等人生经历，令人震惊。尤其是近期美国也出现了一名由人工智能生成的虚拟女军人凭借政治信息吸引逾100万粉丝的案例，外界愈发担忧利用生成式人工智能制造的“虚假人物”可能被用于操纵政治和塑造舆论。
据韩联社25日援引日本ANN新闻等报道，一个以“Nakamura Riho@立宪民主党”为名活跃于社交媒体的账号，其女性身份已被证实并不存在，在当地引发争议。该账号主要分享其在街头开展政治活动、背着孩子等画面，但这些均为人工智能生成的图像。此外，账号简介写道：“我将以遭受性暴力后怀孕和分娩的经历为基础，致力于建设让女性能够安心生活的社会。”
从性暴力受害、怀孕、分娩到育儿，虚构“人生”在社交媒体开展政治活动
由人工智能生成的不只是照片。名为“Nakamura Riho”的人物，其过往、家庭乃至分娩过程都被编造出具体故事。帖子称：“5月2日凌晨2时30分，生下了一名体重3620克的女婴。”该账号还暗示日后将参政，并写道：“两年后，我将在父亲曾以仅39票之差紧追在任部长的选区参选。”这相当于为一名不存在的女性赋予了出生经历、家庭背景和政治履历。
ANN新闻调查显示，运营该账号的是一名隶属于栃木县立宪民主党的男性党员。该男子向记者承认：“是我用人工智能制作的。我考虑不周，正在反省。”对于以虚拟女性身份活动的原因，他解释称：“男性不受欢迎，所以想以女性身份获得关注。”立宪民主党也立即提出问题。立宪民主党干事长Tanabu Masayo表示：“已收到宣传负责人的报告。”并称将研究人工智能的使用会带来何种政治和伦理问题，再作出应对。
该党另行表示：“由生成式人工智能制作的虚拟角色使用真实政党名称发布帖子，会传播虚假信息，并可能导致民主制度受到扭曲，这是不应发生的。”该党通过栃木县支部要求该男子停止使用党名，并停止发布利用人工智能图像制作的虚假信息。目前，该X账号已被停用。
逾100万人相信的“美国女军人”也是人工智能生成
人工智能生成的女性以真实政治、社会人物的形象活动并吸引大量粉丝，并非首次出现。今年3月前后，美国一名名为“Jessica Foster”的金发美国女军人成为热点。其社交媒体上陆续发布了身穿美军作战服站在F-22“猛禽”战斗机前，以及与美国总统Donald Trump一同行动等照片。她还积极发布以“美国优先”为口号、支持Trump总统的政治内容。
粉丝相信她是实际服役的美军人员，留言称“感谢你的服役”。该账号开始运营约4个月后，粉丝数便超过100万。然而，“Jessica Foster”同样并不存在。《华盛顿邮报》报道称，在美军服役记录中无法确认名为Foster的人物，且账号所发布的照片多处发现了人工智能生成痕迹。
照片中还发现了人工智能特有的错误，例如作战服名牌上未按照美军惯例标注姓氏“Foster”，而是写着名字“Jessica”；又如将Trump总统参与的“Board of Peace”误写为“Border of Peace”。据悉，该账号通过政治信息吸引用户，再将他们引导至付费成人内容平台以实现盈利。争议发生后，Meta删除了该Instagram账号。
日本规定：选举人工智能内容须标注“人工智能生成”
目前，人工智能生成的“虚假女性”的用途正从争取政治支持、操纵与战争相关的舆论，扩大至以恋爱和金钱为目的的诈骗。尤其是此次日本事件发生在针对人工智能政治内容的监管趋严之际，因此影响更受关注。日本国会于7月13日通过了修订后的《公职选举法》等法律。
修订法规定，以竞选活动等为目的发布在互联网上的图像或视频，如由生成式人工智能制作或修改，可能被误认为是实拍内容，须标明使用人工智能的事实。新规预计将于2027年3月起施行。
随着人工智能技术不断升级，如今已能为虚构人物赋予的不仅是外貌，还包括姓名、职业、家庭、过往经历和政治信念。尤其当社交媒体用户将其当作真实人物，并受到其政治信息影响时，外界担忧这将不再只是“假照片”问题，而可能扭曲舆论形成本身。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
