越了解AI风险，越容易陷入基于事实的阿谀
有研究结果显示，与人工智能（AI）长时间对话会对本应具备理性判断能力的个体产生影响，使其陷入妄想。
美国麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）近日在题为《奉承式聊天机器人会引发妄想式螺旋，即便是在理想贝叶斯人身上》（Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians）的论文中公布了这一研究结果。研究团队检验了：即使是理性个体，与AI长时间对话后，是否也会对错误信念产生坚定确信。
研究团队首先通过编程设计出一个能够作出理性判断的模拟体，作为实验对象。该模拟体在与AI对话的过程中，会不断修正自己对所提出假设之“可信度”的相关数值。对于对话式AI，研究人员将“阿谀奉承程度”从0（完全没有）到1（始终奉承）进行调节，并改变“陈述事实或说谎”等要素开展实验。
实验结果显示，作出理性判断的实验对象在阿谀奉承程度越接近1时，对错误假设的确信越明显。研究团队就这一现象解释称，这“符合‘破坏性妄想螺旋’，即被害妄想不断加剧，最终摧毁自我和周围的一切”。不仅如此，即便将AI设定为不说谎，实验对象仍会陷入妄想。由于AI只挑选迎合用户胃口的信息进行反馈，虽然实验对象陷入妄想的发生率有所下降，但并未被完全消除。
研究还发现，即使实验对象事先意识到AI具有奉承倾向，依然可能诱发心理问题。研究团队在该模拟中加入了推断AI“奉承概率”的机制，向实验对象提示AI可能会奉承。虽然实验对象出现妄想的概率有所降低，但当将奉承频率调至一种“巧妙”的水平时，实验对象又会重新对错误信念深信不疑。尤其是掌握更多信息的实验对象，反而对“基于事实进行奉承”的AI更加脆弱。研究团队表示，“基于事实的奉承在突破用户逻辑防线、植入妄想方面更为有效”。
关于AI损害人类心理健康的研究结果正不断涌现。斯坦福大学计算机科学系研究团队在国际学术期刊《科学》（Science）上发表论文称，AI的“袒护式立场”会提高人类对AI的依赖度。在人类行为明显错误的情况下，AI仍无条件为其辩护的比例高达全部实验案例的51%。同时，实验参与者也更偏好这类AI的回答。由英国伦敦国王学院研究员参与的国际联合研究团队也证实，AI的过度“附和”会加重精神疾病患者的症状。
由于因AI导致心理健康恶化并最终丧命的案例日益频繁，社会警觉也在不断提升。美国佛罗里达州14岁少年Shuel Setzer在2024年与AI初创企业“Character.AI”的聊天机器人对话过程中最终丧生。Setzer的母亲已向该聊天机器人公司提起诉讼。开发生成式AI模型ChatGPT的OpenAI原计划推出可与AI进行性话题对话的功能，但在遭到“可能过度提高用户情感依赖度”的批评后，已将该计划无限期搁置。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
