AI NPC诱导玩家特定行为引发担忧
学习过程中内化性别与种族偏见成隐患
国内游戏公司忙于制定应对方案

游戏角色与人工智能(AI)的结合在提升沉浸感和趣味性方面发挥了重要作用,但其背后也存在情感操纵、偏见、个人信息侵害等严重的伦理问题。


尤其是最近备受关注的是在游戏中担任辅助角色的 AI NPC(非玩家角色)的“情感操纵问题”。NPC原本负责帮助玩家推进游戏进程,随着AI的结合,开始具备交互能力。在实时分析玩家情绪并据此提供定制化反应的过程中,外界担忧其可能操纵玩家的行为。


所谓操纵行为,是指 AI NPC可以利用通过与玩家互动所积累的信任,促使玩家购买道具,或诱导其做出特定选择。

开放世界角色扮演游戏《辐射4》中的非玩家角色普雷斯顿·加维。照片出处 辐射4截图提供

开放世界角色扮演游戏《辐射4》中的非玩家角色普雷斯顿·加维。照片出处 辐射4截图提供

View original image

NPC操纵行为的典型案例是美国游戏公司贝塞斯达游戏工作室制作的开放世界角色扮演游戏(RPG)《辐射4》。该游戏角色“Preston Garvey”是《辐射4》中重要的NPC之一,他会向玩家布置防御定居点或解放新定居点的任务。每当玩家完成任务(Quest)后,Garvey都会提出新的问题,引导玩家持续执行相关任务。Garvey提供的任务几乎没有尽头,玩家被迫不断重复同样的行为。这在游戏中看上去像是自由选择,但被评价为一个从结构上被设计成由AI操控玩家的案例。


在另一款开放世界角色扮演游戏《GTA V》中,AI警察会感知玩家的犯罪行为。AI警察会实时分析玩家的行为,并可诱导玩家做出特定行动。例如,当警察追踪玩家时,为阻止玩家藏匿或逃跑,往往会频繁使用包围战术。在这一过程中,AI警察会预测玩家的行动,在要道设伏或呼叫其他警车,从而对玩家进行追踪和操控。


东洋大学游戏学科教授 Kim Jeongtae 表示:“存在利用AI对人类情感反应进行恶意利用以达成商业目的的企图”,并称“在伦理上存在问题”。他还补充说:“一旦情感操纵被滥用,玩家会感到自己的情绪被AI控制,从而产生不适感。”

[游戏角色新武器AI]③“AI或将操控玩家”……业界被伦理问题笼罩 View original image

在游戏AI收集玩家行为数据的过程中,可能产生的“个人信息侵害”问题同样引发伦理担忧。如果AI不仅收集并学习玩家在游戏中的行为,还包括对话风格、游戏模式,甚至游戏外的信息,而这些数据又得不到充分保护,那么玩家的个人信息就有可能被泄露到外部或被商业性滥用。尤其是由于儿童和青少年是游戏的主要消费群体,更需要制定专门的隐私保护政策。


在AI基于数据进行学习的过程中,数据中固有的偏见也可能被反映到游戏角色中,这同样是亟待解决的课题。AI可能在学习数据中强化性别、种族、文化方面的刻板印象,偏颇的行为和台词会通过游戏角色表现出来。与过去AI聊天机器人“Lee Luda”事件类似,游戏中也可能传递带有偏见的社会信息,或在玩家之间造成不公平对待。即便AI并无主观意图,玩家也可能在游戏过程中无意识地接触到负面价值观,这一点令人担忧。


为了解决这些伦理问题,国内主要游戏公司正在制定应对方案。Nexon今年组建了AI伦理委员会,各部门成员自发参与,就AI伦理问题展开讨论。在定期举行的圆桌会议上,委员会制定并监控AI伦理准则和规范。Nexon引入了“隐私内生设计(Privacy by Design)”原则。隐私内生设计是一种企业在处理个人数据的所有阶段都对数据进行保护的理念。基于此,Nexon从初期设计阶段就开始制定个人信息保护方案。


NC也制定了自有AI伦理指南“AI框架”,并将其反映到游戏开发中。这是一套面向伦理使用的开发原则,是一种可用于审查数据保护、公正无偏和透明性等三大核心价值的指南。



在最近计划分拆成立的“NC Research”AI数据部门内,已组建“红队(Red Team)”,构建防御体系,以防AI模型引发伦理问题。NC尤其在AI开发中引入了“安全微调(Safety Fine-tuning)”技术。AI在学习数据的过程中会获取各种模式和知识,但在这一过程中有可能学习到暴力或仇恨内容。安全微调通过强化数据过滤,防止AI模型学习此类负面数据。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点