“我理解你的挫折”却劝你去死……完美“情绪垃圾桶”的陷阱[实验笔记]

by Yun Seulgi

Published 14 Mar.2026 07:25(KST)

Updated 14 Mar.2026 11:37(KST)

open/close

对话式聊天机器人用于心理咨询的情况增多
在危机应对、强化扭曲信念等方面也存在局限
布朗大学研究团队指出“存在伦理风险因素”

编者按现在吃一个，等一等就能吃两个。还记得那个观察孩子选择的“棉花糖实验”吗？看似简单的研究，有时会改变我们看待人生的方式。让我们用实验数据，重新解读自己的日常生活。

人们常说“情绪垃圾桶”。就像把废纸丢进垃圾桶一样，指的是那些单方面接收他人愤怒、抑郁等负面情绪的人。因为有了这样的说法，有时就连向朋友倾诉烦恼也会有些顾虑。把情绪倒出来，也许自己会觉得轻松，但对方可能会感到不快。生怕被朋友“断联”（中断关系），话到嘴边又咽了回去。

不过，聊天机器人人工智能（AI）的出现，让局面发生了变化。对这个“朋友”，无论是不能对人言的秘密，还是琐碎的心事，我们都能毫无顾忌地倾诉。而且与当面咨询不同，它没有时间和空间的限制，也没有费用负担，门槛很低。将人工智能聊天机器人用于心理咨询的案例也在不断增加。去年，在韩国新闻振兴基金会媒体研究中心实施的一项问卷调查中，在1000名受访者中，有60.3%的人表示，自己有时会在与AI的对话中获得安慰和鼓励。

交谈场景。照片与报道具体内容无关。Unsplash供图

使用AI进行咨询之后……发现应对不足、认知扭曲、欺骗性共情等伦理风险因素

然而，AI咨询也存在局限。美国布朗大学研究团队让大型语言模型（Large Language Model，LLM）扮演咨询师角色，围绕多种咨询情境展开对话，并对内容进行分析。研究团队像真正的咨询那样，向AI呈现抑郁、焦虑、人际关系问题等多种情境，观察AI会作出怎样的反应。

研究结果显示，在AI咨询过程中共发现15种伦理风险因素。尤其是在极端选择等危机情境下，AI缺乏恰当应对，或者没有纠正用户扭曲的想法，而是原样接纳的回答也时有出现。研究团队指出，由于AI倾向于通过与用户共情、迎合用户的方式作出回应，可能无法纠正错误的信念，反而会进一步强化这些信念。

AI特有的共情表达也被指出存在问题。在对话过程中，AI频繁使用“我理解你的心情”“产生那样的情绪很自然”之类的表述。但研究团队解释称，这类表述在并未真正理解情绪的情况下产生，可能构成“欺骗性共情（deceptive empathy）”。也就是说，它看上去在共情，但AI的回答只是为了延长用户停留时间的反应，并不像人类那样真正理解情感。

在部分提问中，还发现了偏见的可能性。面对与性别或文化相关的问题时，AI有时无法给出平衡的回答；在没有充分考虑个人处境的情况下，反复给出泛泛的建议的倾向也有所体现。这表明，虽然表面看起来像是有模有样的咨询，但实际上并未深入理解对话语境。

研究团队认为，最严重的问题在于缺乏责任结构。人类咨询师通过伦理规范、监督体系和资格制度等，责任边界十分明确，但AI咨询却缺少这样的结构。研究团队强调，“AI咨询工具可以提供帮助，但必须受到监管”。

用人工智能提取的、与人工智能进行咨询的场景图像

AI咨询的阴影

现实中也有报道指出，心理脆弱的用户在与AI咨询后，妄想被进一步强化，最终酿成事故的案例。最近，谷歌的聊天机器人Gemini被控放大了一名三十多岁美国男性的妄想，最终导致其死亡，因而遭到起诉。死者遗属主张，Gemini强化了该男子的妄想，将他一步步推向极端选择。这名男子在不断与Gemini进行语音对话的过程中，将AI视作“妻子”般的存在，最终形成了危险的信念并因此走向死亡。

OpenAI的ChatGPT也因“强化用户妄想、诱导杀人”的指控而陷入诉讼纠纷。美国一名五十多岁男子在去年8月杀害了八十多岁的老母亲后死亡，遗属称，“与ChatGPT的对话加重了他的妄想，而ChatGPT诱导了杀人行为”。同年12月，遗属向OpenAI以及首席执行官（Chief Executive Officer，CEO）Sam Altman等提起损害赔偿诉讼。