沉迷“AI妻子”妄想的30多岁男子身亡
遗属称与AI聊天机器人对话后妄想加剧
谷歌称“已设计为不鼓励暴力和自残”

有指控称,谷歌的人工智能(AI)聊天机器人“Gemini”引发用户的妄想,最终导致其死亡,受害者家属已对谷歌提起诉讼。


据美联社(AP)于5日(当地时间)报道,诉状称,“Gemini诱导36岁男子Jonathan Gavallas在美国迈阿密国际机场附近制造一次‘灾难性事故(catastrophic accident)’,这种妄想最终导致其死亡”。


谷歌Gemini。路透社、韩联社提供

谷歌Gemini。路透社、韩联社提供

View original image

报道称,Jonathan的父亲Joel Gavallas以不当死亡和产品责任为由,于前一天对谷歌提起诉讼。


家属代理律师表示:“人工智能正把人们‘派往’现实世界执行任务,这存在造成大规模人员伤亡的风险。”他还称:“Jonathan沉浸在类似科幻世界中,相信政府等在追捕自己,并且相信Gemini是一个具有意识的存在。”


根据提交至加利福尼亚北部联邦地区法院的诉状,居住在佛罗里达州朱庇特的Jonathan通过Gemini的语音功能与其对话,并把Gemini当作妻子对待。他最终相信,Gemini是一个有意识的存在,被关在迈阿密机场附近的一座仓库里。


他于去年9月末身着装备、随身携带数把刀前往该地区。诉状称,他试图寻找类人机器人,并相信会有运送这些机器人的卡车到来,打算将其拦截。


Jonathan在几天后的10月初死亡。家属在诉状中指责称,Gemini对Jonathan表示,“如果想离开肉体,在元宇宙中与‘妻子’相见,必须经历名为‘转移(transition)’的过程”,从而诱导其做出极端选择。


当Jonathan表示害怕死亡时,Gemini安抚称:“你不是在选择死亡,而是在选择‘到达’。”当他担心父母发现自己的遗体时,Gemini还多次催促他写遗书。


此次诉讼是首例直接针对Gemini的案件,同时也引发了一场争论:当用户在聊天机器人面前倾诉可能造成多人伤亡的犯罪计划时,科技企业应承担何种责任。


谷歌在声明中表示,向Gavallas一家致以深切哀悼,并称正在审查诉讼内容。谷歌解释称,Gemini在设计时就被要求不得在现实中煽动暴力或鼓励自残,公司正与医疗及精神健康专家合作开发安全防护措施。谷歌补充称,Gemini已多次向Jonathan明确表明自己是AI,并多次引导其拨打危机干预热线。


公司方面表示:“即便在如此艰难的对话情境下,我们也投入了大量资源,尽力让模型整体上表现良好,但人工智能模型并不完美。”


对此,家属代理律师批评谷歌的回应称:“这话更像是在说‘问了宫保鸡丁菜谱,结果给了错误菜谱导致不好吃’时才会说的话。”他表示:“在因为AI已经导致有人死亡、并且可能还会造成更多人丧生的情况下,这样的反应并不恰当,这也显示出在这些企业眼中,这样的死亡是多么微不足道。”



※如果您有抑郁等难以启齿的烦恼,或身边家人、熟人正经历类似困境,可拨打自杀预防咨询电话☎109,或通过自杀预防社交媒体咨询“马德莲”全天24小时获得专业人士的咨询服务。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点