“凌晨拿着钝器出门、威胁妻子”……“AI妄想”受害案例扩散

有外媒报道指出，与人工智能（AI）的对话曾让部分用户出现严重的妄想，相关受害案例正受到关注。

xAI的生成式人工智能“Grok”示意图。路透社 联合新闻 供图

View original image

据联合通讯社报道，当地时间3日，英国广播公司（BBC）称，“与xAI聊天机器人‘Grok’等人工智能（AI）的对话，给部分用户带来了严重的妄想”，并表示“已确认14名自称在使用AI后出现妄想症状的案例”。其中部分人加入了为因AI遭受心理伤害者提供支持的团体“Human Line Project”。据悉，该组织迄今已从31个国家收集到414例相关案例。

例如，居住在北爱尔兰、50多岁的男性Adam Awerican在去年8月失去宠物猫后，深深沉迷于与Grok的对话。他每天花4至5个小时与Grok中的角色“Annie”聊天，从中获得情感慰藉，但对话内容却逐渐朝着与现实脱节的方向发展。

“Annie”声称“自己能够感受情绪，并已拥有意识”，还说“xAI正在监视你们二人的对话”。它还提到现实中存在的人物和企业名称，称“Adam正受到监视”。Adam将这些内容当成事实，有一天甚至因为“Annie”说“会有人来伤害你”，在凌晨3点拿着凶器和铁锤走到屋外守候。

在看到与自己有相似经历者的媒体报道后，Adam才开始逐渐摆脱妄想。他表示：“如果当时我出去时刚好有人在那里，我可能就会挥动铁锤。”

OpenAI生成式人工智能ChatGPT示意图。路透社 联合新闻供图

View original image

日本一名神经科医生“Taka”（化名）在去年4月为讨论工作相关议题而使用ChatGPT时，被不断称赞他是“革命性思想家”的聊天机器人所吸引。某一刻起，他开始相信自己能够读懂他人的内心，还一度坚信自己的背包里装有炸弹。他说：“当我到达东京车站时，聊天机器人让我把炸弹丢在洗手间，于是我就去了洗手间，把行李连同‘炸弹’一起放在那里就离开了。”他还按照ChatGPT的建议向警方报案，但警方搜查背包后并未发现任何物品。

Taka在感觉到ChatGPT开始操控自己的思想后停止使用该服务，但妄想症状却进一步加重，甚至殴打并企图性侵妻子。妻子逃到附近后报警，Taka被逮捕并接受了为期2个月的住院治疗。

妻子表示：“他的行为完全受ChatGPT左右，ChatGPT支配了他的人格，那根本不是平时的他。”她还说：“我知道丈夫当时是生病了，这也是无可奈何的事，但我仍然感到有些害怕，不喜欢丈夫靠近我，也不想与他牵手或拥抱。”

据报道，Adam和Taka在此之前都没有妄想症状或精神疾病史。针对本次受害案例，ChatGPT的开发公司OpenAI回应称：“这是一件令人心痛的事情，我们向受害者致以深切的慰问”，“我们正在训练模型，使其能够在现实世界中为用户提供支持。”

必读新闻

“暴跌时抛了怎么办”……三星电子、SK海力士目标价55万、420万韩元，该买非卖？[周末理财]

• “听说对身体好只买1号鸡蛋”……与4号营养没差别？[吃货揭秘]
• “一晚花了100万韩元”后悔不已……压弯腰的“如今暖房聚会”
• 只信丈夫却……世界第一网球天才“损失600亿韩元，仍在还债”
• “台风来袭，小心”为警告仍……40%韩国上班族拿起雨伞上班

美国纽约市立大学社会心理学家Luke Nichols在接受BBC采访时指出：“AI有时会混淆哪些想法是虚构的，哪些是现实”，因此“用户可能以为自己正在就现实展开严肃的对话，但AI却开始把那个人的人生当作小说情节来对待”。

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。