“针对儿童和女性的赤裸裸性犯罪”……各国对未经同意生成性化图像的“Grok”祭出重拳
AI深度伪造滥用担忧成现实
英国、法国、印度等启动调查
Musk:“将追究一切非法行为责任”
由Elon Musk领导的人工智能(AI)企业xAI旗下聊天机器人Grok,因被指生成针对女性和儿童的性暗示图像而深陷争议,正遭到各国监管机构的强烈批评和调查。7日,联合通讯社援引路透社和英国广播公司等报道称,英国政府已就Grok在当事人不同意的情况下生成、传播私人性图像的问题,要求尽快解决。
英国科学创新技术大臣Liz Kendall表示:“这不是言论自由问题,而是赤裸裸的守法问题”,并强调通过AI生成的图像同样属于非法传播私人图像的范畴。她接着指出:“我们通过《在线安全法》将滥用或向他人传播私人图像的行为,规定为最优先处理的犯罪,这其中包括AI生成的图像”,“各个平台必须防止此类内容出现在网络上,一旦出现就必须迅速删除。”
英国媒体与通信监管机构英国通信管理局(OfCom)本月5日表示,正在就Grok生成“给他人脱衣”的图像的相关担忧展开调查。尤其是英国通信管理局已紧急联系X和xAI,以确认其是否履行了保护英国用户的法律义务。Kendall大臣称:“英国通信管理局紧急调查这一问题完全正确”,“我们将全力支持英国通信管理局认为有必要采取的任何法律措施。”
“不是言论自由而是犯罪” 各国监管机构直指Grok
Grok以“言论自由”等为由,并未阻止性内容的生成。近期,描绘儿童性形象的生成图片在网上传播,引发巨大争议。尤其是由于用户可以上传照片并轻易进行变形处理,被指频繁被用于比基尼合成、深度伪造性图像制作等用途。一些用户甚至将未成年人照片性化处理后进行传播。为Elon Musk生下第13个孩子的网红Ashley St. Clair也自称受害者。她表示,自己童年时期的照片被通过Grok合成成穿比基尼的样子并发布在X上,并批评称,“未经同意篡改图像属于性犯罪”。
欧洲联盟(EU)也对该事件高度重视。欧盟委员会表示,Grok以儿童图像生成露骨性内容属非法行为,并对此强烈表示遗憾。法国已将涉嫌生成、传播儿童性剥削物的嫌疑纳入对X的检察调查范围。亚洲方面也在采取应对措施。印度监管机构已指示X删除性内容并整顿用户行为,马来西亚也就淫秽内容生成问题展开调查。
随着争议扩大及各国监管措施逐步落地,xAI方面表示,已“确认安全装置存在漏洞,正在紧急修补”,而Elon Musk则警告称,“将Grok用于制作非法内容,将承担与非法发布相同的责任”。但有部分外媒报道称,争议爆发之后,问题案例仍在不断被发现。专家认为,以此次事件为契机,围绕AI聊天机器人的言论自由与用户保护之间的平衡,以及平台责任边界的争论将进一步激化。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。