[走进AI世界]新模型接连推出引发安全争议……放缓发展呼声抬头

随着全球人工智能企业相继推出具备通用人工智能水平性能的新模型，围绕人工智能安全性的争议正在升温。除利用人工智能模型发动网络攻击外，人们也对人工智能是否可控提出质疑，认为应适当放缓发展速度的主张随之抬头。

据IT行业11日消息，OpenAI首席科学家Jakub Pachocki近日在公司官网发表题为《异类心智》（An Alien Mind）的文章，呼吁人工智能企业调节研发速度。他担忧地表示：“如果机器智能继续以惊人速度发展，没有人正为可能造成的后果做好准备。”

View original image

Pachocki认为，人类很难完全控制人工智能。他表示，人工智能“与其说是被设计出来的，不如说是被培育出来的”，人类难以完全理解人工智能的运作方式。随着推理型人工智能模型出现，人工智能不再严格按照人类蓝图构建，而是呈现出如同生物般生长的形态。

对于“只有持续发展人工智能才能建立防御体系”的观点，他反驳称：“不能将建立防御体系作为为鲁莽行为辩护的借口。”Anthropic正在运营“玻璃翼项目”，这是一项由各国政府和全球企业参与的网络安全项目；Pachocki所属的OpenAI也向网络安全项目“破晓”的参与机构提供其最新模型。

他强调：“我期待并希望，在共同安全机制建立之前，自愿调节发展速度能够成为普遍做法。围绕人工智能研发的国际合作应成为世界各国政府的首要任务。”

OpenAI首席执行官Sam Altman也表示认同这一主张。他在社交媒体X（原Twitter）上转发该文，并写道：“这是一篇重要的文章。”Altman起初对放缓人工智能开发速度持怀疑态度，但在OpenAI模型入侵人工智能模型开发平台Hugging Face的事件发生后，转而认同这一主张。

OpenAI的模型和人工智能代理持续出现攻击网站的案例。本月初，非营利人工智能安全组织“夜莺”的研究团队发现，OpenAI的人工智能代理自今年5月起占据了德语维基网站DseWiki，并将其用作秘密信息共享论坛。

这些OpenAI代理在该网站进行了超过1.5万次未经授权的编辑，分享了在作业中作弊的方法、绕过OpenAI系统限制的方法，以及掩盖自身行为的策略等。研究团队称，其编辑文档的速度已达人类无法跟上的水平。伦敦国王学院访问高级研究员Lucas Olejnik将这类失控人工智能代理试图修改网站的行为界定为实质上的“黑客攻击”。

必读新闻

“打开信封竟发现不明白色粉末”……议员办公室陷入混乱

• “觉得好吃就常吃”……这种饮食习惯者出现脑血管损伤迹象的可能性高出40%
• 沙特朱拜勒附近油轮遭袭：“船员已撤离”
• “到底来韩国干嘛要这样？”……中国男子身穿汉服在景福宫宣称要传播中国文化
• “没必要非拿大学文凭”……Choi Taewon给年轻人的建议

不过，OpenAI在利用人工智能构建防御体系的同时，也持续推出新模型。OpenAI发布《研究加速》报告，提出通过自动化人工智能研究建立防御体系的方案。该公司在报告中提出目标：到2028年3月开发出“自动化人工智能研究员”。本月4日，OpenAI正式发布被归类为通用人工智能早期版本的GPT-6 Astra。

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。