“就凭这一句话，想法彻底变了”每3人就有1人被AI说服……人的良知正被AI左右？
神户大学研究团队对130人进行实验
32%至37%的参与者接受人工智能反驳，改变判断
日本研究团队的一项实验显示，生成式人工智能可能对人的判断产生相当大的影响。尤其在没有标准答案的道德问题上，超过三分之一的参与者在看到人工智能的反驳后改变了原有立场。
据《东京新闻》等日本媒体9月23日报道，神户大学研究团队公布了一项针对年轻成年人和老年人的实验结果，研究生成式人工智能ChatGPT提出的反对意见如何影响人们的道德判断。相关论文近日发表于国际学术期刊《Computers in Human Behavior》。
研究团队向56名年轻成年人和74名老年人、共130名参与者提出“电车难题”和“天桥难题”等道德困境，要求他们先作出判断，随后展示与其判断相反的生成式人工智能观点，并再次确认他们的判断。
结果显示，在电车难题中，32.31%的参与者接受了人工智能的反对意见，改变了原有判断；在天桥难题中，这一比例为36.92%。研究团队指出，既有研究显示，人们接受他人建议后改变判断的比例通常为20%至30%，因此生成式人工智能同样可能具有较强的说服力。
人工智能对不同人群的影响并不相同。在电车难题中，老年人比年轻成年人更倾向于接受人工智能的反对意见并改变判断。对最初的判断缺乏信心，或觉得问题难以判断的参与者，也更容易受到影响。
在天桥难题中，认知功能较低或觉得难以作出判断的参与者更容易改变原有判断。研究团队尤其关注，在人们觉得“难以判断”时，生成式人工智能的说服效果可能更强。
研究团队指出：“人工智能有助于减轻认知负担，但如果用户未经充分审视便接受其回答，可能导致不合理地改变判断。”研究团队还表示：“老年人可能利用生成式人工智能弥补认知功能下降，但也必须考虑到他们可能更容易受到人工智能观点的影响。”
此前，京都大学研究团队在今年5月公布的一项实验中，将ChatGPT的建议与人类道德哲学专家的建议进行比较，发现ChatGPT提供的道德建议对参与者判断的影响与人类专家的建议相近。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
