枪击案凶手事先撰写情景剧本
OpenAI判断未达到举报标准

有报道称,加拿大不列颠哥伦比亚省一所学校的大规模枪击案枪手在行凶前,曾与人工智能聊天机器人ChatGPT讨论作案计划,但OpenAI管理层当时决定不将这一事实通报加拿大当局。


据美国日报《华尔街日报》(The Wall Street Journal)20日(当地时间)报道,作为本月10日发生在不列颠哥伦比亚省坦블러리지学校大规模枪击案的嫌疑人,现年18岁的Jesse Van Routsella,在去年6月数日内使用ChatGPT撰写了多种枪支暴力情景剧本。这些他发布的内容通过自动审查系统被转交给OpenAI员工。


当地时间11日,在加拿大不列颠哥伦比亚省坦블러리지小镇,一名居民在为前一天发生的大规模枪击案遇难者举行的烛光追悼会上,将鲜花放在纪念碑前悼念遇难者。AFP联合新闻提供

当地时间11日,在加拿大不列颠哥伦比亚省坦블러리지小镇,一名居民在为前一天发生的大规模枪击案遇难者举行的烛光追悼会上,将鲜花放在纪念碑前悼念遇难者。AFP联合新闻提供

View original image

OpenAI员工看到Routsella的文字后感到震惊,其中一些人认为,这些内容暗示了现实中存在潜在的暴力可能性,主张应当通知执法机构。据悉,当时共有12名员工就如何处置Routsella的帖子进行了讨论。但最终,OpenAI方面决定不联系当局。


OpenAI发言人表示:“公司已经封禁了Van Routsella的账户”,同时辩解称,“我们判断,他的行为尚未达到需要向执法机构报告的标准,即‘对他人身体造成严重伤害的可信且迫在眉睫的危险’”。发言人接着表示,“向在坦블러리지悲剧中受害的所有人士表示哀悼”,并补充称,“公司正在配合负责调查的加拿大皇家骑警开展工作”。


OpenAI会对模型进行训练,以阻止用户在现实中造成实际伤害。如果用户在对话中表现出加害意图,相关内容会被转交给人工审查人员;若审查人员判断对话内容存在严重人身伤害风险,便可以联系执法机构。


据悉,Routsella是一名由男性变性为女性的跨性别者,被指存在精神健康问题。其具体作案动机尚未查明。此次事件共造成1名39岁女教师、3名12岁女学生和2名12至13岁男学生在内的9人死亡。此外,嫌疑人39岁的母亲和11岁的继弟被发现死于学校附近的住所,而嫌疑人在行凶后选择自杀。



另据报道,Routsella此前还曾在在线游戏平台Roblox上制作过一款模拟购物中心大规模枪击案的视频游戏,并在社交媒体上发布过自己在射击场开枪的照片。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点