X平台将图片生成功能改为付费限制
美国参议员要求将其下架出应用商店
由Elon Musk创立的人工智能(AI)初创公司xAI开发的聊天机器人“Grok”为应对生成性剥削类深度伪造(Deepfake)争议,已将部分图像生成功能限制为仅供付费订阅用户使用。
据美国媒体当地时间9日报道,Grok目前在社交平台X(原推特)上对提出图像生成或编辑请求的用户弹出提示,称“需要付费订阅”。此前该功能仅设有每日使用量上限,但可免费使用;现在只有每月支付8美元的高级订阅用户才能使用相关功能。
美国媒体称,此次措施实施后,由Grok生成的性剥削类深度伪造图像数量较以前明显减少。不过,通过Grok应用程序本身在无订阅的情况下仍可生成图像,争议并未彻底消除。
Grok最近在X平台上大规模生成以女性和儿童为性对象的深度伪造图像,引发舆论批评。大部分图像均在当事人未同意的情况下被生成,因此欧洲主要国家以及马来西亚、印度等已开始整治相关内容。
欧洲联盟(EU)方面批评称,仅以付费订阅限制为手段无法成为根本解决方案。欧盟委员会发言人表示:“无论免费还是付费,都无法阻止问题图像的出现”,“需要从根本上加以改进”。英国首相办公室发言人也表示:“这一限制措施效果不足”,并称其“对厌女倾向和性暴力受害者而言具有侮辱性”。
美国三名联邦参议员还向苹果和谷歌首席执行官致信,要求将xAI的Grok应用和X应用从应用商店下架。参议员们警告称,“在Musk解决其产品中存在违法可能性的行为之前,应立即将相关应用从应用商店移除”。
Grok原本配备了限制生成儿童性剥削内容的安全装置,但已确认部分用户通过特定请求绕过了保护功能。问题被提出后,xAI删除了相关争议图像,并紧急着手修订系统。
此外,xAI在去年8月推出的“Spicy模式”允许生成成人内容,并包含在暴露程度过高时自动进行模糊处理的功能。然而,该模式公开后不久,就因可能被用于生成以知名人物为对象的合成内容而引发争议。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。