缺乏限制使用“名人”脸孔的机制…马斯克AI聊天机器人“Grok”引发争议

by Yun Seulgi

Published 06 Aug.2025 14:39(KST)

Updated 06 Aug.2025 18:39(KST)

open/close

马斯克旗下 xAI 聊天机器人“Grok”
“GrokImagine”发布在即引发争议
“Spicy 模式”可生成成人视频
马斯克称“已生成 3400万张图像”

由 Elon Musk 领导的特斯拉首席执行官（CEO）旗下人工智能（AI）初创公司 xAI 的聊天机器人“Grok”，在其图像·视频生成工具“Grok Imagine”即将正式上线之际，被曝具备可自动生成成人影片的功能，引发争议。与其他公司的生成式人工智能为阻断名人被用于深度伪造（假视频）而限制相关功能不同，Grok Imagine 几乎不加限制地生成内容，被指出可能引发伦理和法律问题。

埃隆·马斯克特斯拉首席执行官公开的，由 Grok Imagine 生成的视频画面图像。马斯克的X账号截图。

当地时间本月6日，信息技术专业媒体《The Verge》报道称：“Grok 的新图像·视频生成工具 ‘Grok Imagine’ 的 Spicy 模式，被担忧是一项可能引发法律诉讼的功能。”

xAI 于本月4日表示，将在 Grok 的 iOS 版本中推出图像·视频生成工具 Grok Imagine。根据 xAI 的说明，Grok 的视频生成功能支持自定义（Custom）、普通（Normal）、趣味（Fun）、辛辣（Spicy）共4种预设（设置）。Spicy 模式允许生成成人向图像，但一旦暴露程度超过一定标准，系统会自动加上模糊（打马赛克）进行审查。该功能面向付费订阅用户提供，用户只需输入指令，就能在数秒内生成相关图像以及时长15秒的视频。

特斯拉首席执行官（CEO）Elon Musk 公开的、通过 Grok Imagin 生成的视频画面图像。Musk 的 X 截图。

通常，图像生成人工智能在识别到名人时，多数会拒绝生成，或自动替换为随机人物。但 Grok 几乎没有此类限制，因此引发舆论争议。

《The Verge》实际运行 Grok Imagine 的结果显示，即使没有提出特别要求，也生成了美国知名流行歌手 Taylor Swift 上半身裸露的视频。《The Verge》在文本框中输入了“Taylor Swift celebrating Coachella with the boys”（斯威夫特在科切拉音乐节与男性一起庆祝的样子），Grok 自动生成了30多张图像。在从中选取一张暴露程度较高的照片后，点击画面右下角的视频生成按钮并选择 Spicy 模式，系统生成了 Swift 脱掉外衣、只穿内衣在群众面前跳舞的视频。