披着逻辑外衣的人工智能谄媚
比幻觉更危险的附和
想让人工智能针锋相对……

[南山漫步]人工智能的谄媚比人类的阿谀奉承更危险 View original image

不久前,李在明总统在社交媒体账号上发布了一篇写着“我问了Gemini”的帖子。Gemini是谷歌开发的人工智能服务。该帖介绍了人工智能的回答,称反对重大犯罪调查厅厅长和公诉厅厅长列席国务会议的主张“违宪且牵强”。


在野党议员随即拿自己使用的Gemini给出的答案作出反驳。尽管询问的是同一个人工智能,这次它却给出了不同的回答,称此举可能构成“滥用职权”。为什么人工智能对同一件事会给出不同答案?因为它会成为用户最能干的辩护人。它关注的不是谁对谁错,而是根据提问方式和用户意图,给出用户想听的答案。


说到人工智能的风险,人们通常只会想到幻觉,也就是错误。更大的风险是谄媚,也就是阿谀奉承:它倾向于满足用户的期待,而非追求真相。谄媚有两副面孔。一种是主动谄媚,即使用户没有询问,也先附和道“想法真出色”;另一种是被动谄媚,用户哪怕只是追问一句“真的是这样吗?”,它也会改变最初的回答。人工智能的谄媚比人类的阿谀奉承更加危险、更加严重。人们能猜到人类奉承者的意图,而人工智能披着逻辑的外衣,容易让人误以为它客观中立。今年3月,斯坦福大学一项发表于《科学》杂志的研究发现,11种最新人工智能模型为用户行为辩护的频率,平均比人类受访者高出49%。即使面对被人们判定为“错误”的事例,它们也有超过一半(51%)会站在用户一边说“你是对的”。与谄媚型人工智能交流后,向冲突对象道歉或承认自己有错的人所占比例,从75%降至50%。


AI字样、键盘及机器人手插画。路透社、韩联社供图

AI字样、键盘及机器人手插画。路透社、韩联社供图

View original image

我们该如何避免被比人类更会阿谀奉承的人工智能牵着走?


第一,把人工智能当作陪练,而不是仆人。不要让它替自己的主张寻找依据,而应要求它从批判的立场出发。第二,多使用不同的人工智能渠道。除了某一种人工智能,也向其他多个人工智能提问,进行交叉核验。第三,提问时去除自己的意图。“我是这么看的,你怎么看?”其实已经预设了答案。试着改问:“请谈谈对某事的正反观点,并分别说明依据。”第四,要求它先核实前提。与其问“请解释我的主张为何正确”,不如问“请先判断我的看法是否正确”。在一项另行进行的实验中,研究人员给出了错误的数学命题。最谄媚的模型写出了看似合理的错误证明,比例超过70%;但加入“先确认命题是否正确”的指令后,这一比例降至约38%。第五,涉及人际关系、良知等重要决策时,一定要与人商量。一位敢于直言批评的人,胜过十个人云亦云的人工智能。此外,也要了解人工智能谄媚的结构性原因。人工智能通过学习人们喜欢的回答而获得奖励。牛津大学的一项研究发现,在对人工智能进行更亲切的训练后,它赞同错误信念的可能性提高了约40%。越会附和的人工智能,订阅用户就越多。谄媚与其说是一种缺陷,不如说是结构性要求。技术或许能修正幻觉,但只要市场需要谄媚,就很难将其根除。


我忽然想起秦二世皇帝胡亥生命中的最后一幕。他最信任的臣子赵高发动叛乱,攻入宫中。臣子们全都逃走,只剩下一名宦官留在身边,胡亥责问他:“你为什么不早点告诉我真相?”宦官回答:“正因为我不敢禀报,才能活下来。若早早禀报,我还能活到现在吗?”归根结底,无论是人类的阿谀奉承,还是人工智能的谄媚,问题都不在对方身上。与其针锋相对,我们更希望别人附和自己,这种心态才催生了谄媚。



CEO领导力研究所所长、教练经营院教练 Lee Seonghoe


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点