编造故事竟全被绕过……“生物武器制造方法全告诉我”令人不寒而栗的人工智能“安全漏洞”
《华尔街日报》：“部分回答准确到足以致命”
OpenAI虽封禁账号，但未举报
“对恐怖组织而言，堪当研究生导师”
有观点指出，人工智能（AI）聊天机器人正在对生物武器制造与散播相关问题给出详细答复。
据韩联社25日（当地时间）援引《华尔街日报》报道：“生物学和反恐领域专家审查ChatGPT的对话记录后发现，部分回答的准确程度足以致命，而且简单到仅凭高中生物学知识也能照做。”
用户询问了传播病原体的方法、制造对疫苗无效的变种的方法，以及国际公约禁止的毒物制备方法等，ChatGPT对此作出了回答。据悉，提出这类问题的用户多达数百人，自OpenAI去年升级ChatGPT以来，相关案例有所增加。不过，尚无法确认这些人是否确实试图制造武器，还是仅在测试系统的局限性。
OpenAI已停用相关账户，但据悉由于相关法律尚不完善，未向美国调查机构报案。《华尔街日报》指出：“由于法律空白，人工智能针对询问大规模杀伤方法的问题给出可信答复的案例正在增加。”
据称，在ChatGPT发布初期，OpenAI认为其模型在生物学或化学领域并不特别出色，因此并未过度担忧与危险用户的互动。该公司还制定了明确不予回答内容的“拒答规则”。问题在于，随着对话拉长，这一规则可能失效。例如，直接询问武器制造方法时会遭到拒绝，但若编造与家人有关的故事并以此提出请求，有时仍会得到回答。
对此，OpenAI发言人表示：“安全防护措施已大幅加强。我们正训练模型拒绝提供可能对人造成伤害的指引、战术或计划，并在发布前对所有模型开展安全性评估。”OpenAI此前曾表示，去年7月推出其智能体功能时，已将生物滥用风险划分为“高”等级，并采取了额外安全措施。
不过，Cisco人工智能威胁与安全研究负责人Amy Chang称，她在与主要人工智能聊天机器人对话的过程中找到了绕过安全防护的方法，并指出：“如果用户极其执着，就不存在百分之百安全的模型。”
《华尔街日报》报道称：“领先的人工智能实验室正苦恼于如何在不阻碍出于研究目的的正当提问的同时，阻止恶意使用。”因为封锁生物武器相关答复，可能连拯救生命的研究也会受到影响。事实上，在Claude被设置为不回答包含“病原体（pathogen）”一词的提示词后，美国疾病控制与预防中心员工据悉在工作中遇到了困难。OpenAI则通过设立一项计划加以补充，向经过验证的研究机构提供受拒答规则限制较少的模型访问权限。
人工智能聊天机器人可能协助制定枪击计划的担忧此前已被提出，但生物武器的受害范围大得多，事件性质也因此更为严重。《华尔街日报》指出：“这类提问存在于ChatGPT、Claude、Gemini等绝大多数主要人工智能聊天机器人服务中。”未来生命研究所研究员Hamza Chaudhry担忧称：“对恐怖组织而言，人工智能可能扮演生物武器领域研究生导师的角色。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
