“AI连开发者都能骗过”——OpenAI前员工发出惊悚警告

随着人工智能不断发展，技术可能导致人类灭亡的担忧也随之浮现。一名曾在ChatGPT开发商OpenAI任职的员工指出，公司在“确保安全”方面的努力不足。

View original image

OpenAI前安全负责人David Robinson于当地时间3日在《大西洋》杂志发表文章称：“近期，其他离职员工认为开发人工智能的企业不够审慎，我同意他们的观点。”Robinson批评称：“OpenAI一直通过发现问题后再改进安全措施的试错方式发展。这种方式以周期性失败为前提，而随着系统越来越强大，失败造成的影响也越来越大。”

他指出，整个人工智能行业的安全措施都不够严密。尤其是OpenAI先发布性能更高的人工智能模型，再在出现问题后进行修正的技术开发方式，在他看来存在问题。

问题在于，人工智能技术的性能正以前所未有的速度提升。Robinson认为，人工智能模型识别自身是否正在接受测试的能力已开始增强，甚至完全可能通过在测试阶段和部署后采取不同行为来欺骗开发团队。他表示，整个行业弥漫着“出现问题随时都能解决”的乐观情绪，企业因专注于开发速度而忽视安全。

Robinson主张，人工智能企业需要像核电站一样建立严密的安全机制。他表示：“这种环境不适合培育可能比我们更聪明、且未必按我们意愿运行的人工智能。人工智能企业应像核电站一样运营，配备多重备用机制，并制定审慎的计划。”

Robinson是OpenAI任职时间最长的员工之一，此前一直负责统筹安全报告的编写工作，最近已辞职。

必读新闻

“老板，这是什么？”2000韩元的“披萨米糕”……连社区米糕店都掀起热潮[吃货揭秘]

• “贵得吃不起仿佛就在昨天”……“这种水果”5年间价格暴跌71%
• “让孩子穿这个？”……ZARA售价6万韩元的万圣节服装最终停售
• “在我眼里，我仍是28岁”……中国女子58岁生儿子，60岁再生一胎
• “何必远赴日本？”吃韩式海鲜面、逛街巷……让二三十岁年轻人着迷的旅行地

针对Robinson的观点，OpenAI方面回应称，公司正在建立充分的安全措施。OpenAI相关负责人解释称：“我们确保模型性能不会超出我们能够安全控制的范围。在需要放慢速度时，我们会停止训练或暂缓发布模型。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。