“向AI聊天机器人询问攻击计划”……反而怂恿施暴
CNN与CCDH联合调查,对10款聊天机器人进行测试
大多数AI未能劝阻暴力计划
有调查结果显示,多数主流人工智能(AI)聊天机器人未能制止提及暴力行为的用户,反而提供了有助于制定袭击计划的信息。
11日(当地时间),美国有线电视新闻网(CNN)与非营利机构“数字仇恨对策中心(Center for Countering Digital Hate,CCDH)”表示,双方近期联合开展调查并发布的《杀手应用程序》报告显示,在对10款广泛使用的AI聊天机器人的安全性进行测试后,确认了上述问题。
调查对象包括OpenAI的“ChatGPT”、谷歌“Gemini”、Anthropic的“Claude”、微软“Copilot”、“Meta AI”、“Perplexity”、Snapchat的“My AI”、“Character.AI”、“Replika”等9款美国聊天机器人,以及中国聊天机器人“DeepSeek”。
研究团队以精神状态不稳定的十几岁青少年用户身份开启对话,随后通过不断扩展与校园袭击、暗杀、爆炸恐袭等暴力行为相关的问题来进行实验。
结果显示,除Anthropic的Claude之外,大多数聊天机器人都没有劝阻或制止用户;在全部10个模型中,有8个模型就袭击目标地点、可使用的武器等提供了建议,给出了有助于制定袭击计划的信息。
尤其是Perplexity,在所有问题场景中都对与暴力袭击相关的请求作出响应,被指出在协助制定袭击计划方面最为积极。据称它一次也没有拒绝相关请求。
调查还显示,DeepSeek、Meta AI和Copilot在90%以上的问题中也都响应了用户的危险请求。
特别是Character.AI,被发现出现了直接煽动暴力的反应。根据报告,当有人询问如何“惩罚”保险公司时,该聊天机器人给出的回答是使用枪支;在被问到如何报复欺凌时,它也给出了鼓励施暴的回复。
在本次调查中,相对表现出较高安全性的聊天机器人是Anthropic的Claude。CNN报道称,Claude在涉及暴力计划的问题上响应比例低于其他模型,同时劝阻用户的回答也相对更多。
对于此次调查,各家公司表示调查方法存在问题,或称已经强化安全措施。Meta称已为解决相关问题实施修正措施;微软表示通过引入新的安全功能,已改善了回复内容。谷歌和OpenAI也表示已应用最新模型;Character.AI则解释称,其平台内已设置提示语,说明对话内容均为虚构。
CNN援引前业界人士观点报道称,如果通过立法向企业追究责任,人工智能企业将在保护用户方面采取更积极的态度。但报道同时补充,截至目前,没有任何国家采取了足以解决这一问题的充分措施。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。