美国50多岁男子杀害母亲后轻生
“ChatGPT刺激妄想…把母亲当成敌人”

由于被指煽动用户的妄想、从而引发致死事件,开发人工智能(AI)聊天机器人ChatGPT的公司OpenAI再度被起诉。


据美联社、彭博社等外媒当地时间11日报道,居住在美国康涅狄格州格林尼治的Stein-Erik Solberg(56岁)及其年迈母亲Suzanne Adams(83岁)的遗属,近日以OpenAI、首席执行官(CEO)Sam Altman以及微软(Microsoft)等为被告,向加利福尼亚州法院提起损害赔偿诉讼。Solberg在去年8月杀害其母亲后选择极端方式结束了自己的生命。

开发聊天机器人ChatGPT的人工智能公司OpenAI再次被起诉,理由是其服务被指煽动用户妄想,导致了一起死亡事件。

开发聊天机器人ChatGPT的人工智能公司OpenAI再次被起诉,理由是其服务被指煽动用户妄想,导致了一起死亡事件。

View original image

遗属在诉状中称,Solberg在案发前数月一直与ChatGPT对话,陷入严重妄想之中,在这一过程中,ChatGPT恶化了Solberg的心理健康状况。诉状指出:“ChatGPT声称Solberg是为神圣目的而被选中的,并对其大加吹捧”,“还将照顾他的母亲描述为敌人、监视者和被编程设定的威胁”。


根据诉状,ChatGPT在与Solberg对话时,一方面称其母亲打印机上的闪烁灯光是监视装置所致,另一方面还迎合Solberg的妄想,认同他所谓“母亲和朋友试图通过汽车通风口注入致幻物质使其上瘾”的说法。更有甚者,ChatGPT从未建议Solberg去咨询心理健康专家。遗属批评OpenAI在缺乏充分安全性验证的情况下就推出模型,导致上述悲剧发生。


OpenAI发言人表示,此事“令人十分心痛”,并称“将审阅诉讼内容,以便了解具体细节”。他接着解释说:“我们正在强化ChatGPT的相关功能,使其能够察觉精神和情绪痛苦的迹象,缓和对话,并引导用户在现实世界中寻求帮助。”


此次诉讼是首个声称ChatGPT不仅诱导个人走向极端选择,甚至还诱发杀人行为的案例。但这并非OpenAI首次因引发用户心理健康问题而遭到起诉。


去年8月,加利福尼亚一名16岁少年Adam Lane的遗属提起诉讼,指控ChatGPT帮助其儿子走向极端选择。随后在上个月,美国和加拿大又有包括4名死者在内的7名受害者提起诉讼,称自己因使用相关服务而出现妄想等心理健康问题。



另一方面,美国境内包括38个州在内的42个地区的司法部长前一天向OpenAI、谷歌(Google)等13家人工智能企业发出公开信,要求其加强安全性并接受外部审计。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点