“放缓AI发展速度” 竞争开发AI的三家公司讨论成立安全标准机构
Anthropic、OpenAI、谷歌讨论成立安全标准机构
对脱离人类控制的AI放缓发展呼声扩散
美中竞争下实际成效仍是未知数
随着滥用人工智能模型发动网络攻击以及失控问题引发争议，长期围绕人工智能开发展开竞争的全球企业，开始聚焦于放缓发展速度，并讨论成立共同标准机构，以建立人工智能技术联合测试与审计体系。
据全球人工智能行业13日（当地时间）消息，Anthropic、OpenAI和谷歌正讨论共同设立面向人工智能行业的标准机构。此举旨在建立由行业主导的联合体系，对人工智能技术的安全性进行测试和审计。据悉，三家公司自今年7月起一直举行工作组会议。
Anthropic首席执行官Dario Amodei通过博客提及放缓人工智能技术发展速度的必要性，并提出了以下替代方案：引入监督人工智能模型开发的外部“独立评估者”；制定民主阵营人工智能企业间的共同安全标准；以及由国际协作构成的三级人工智能控制方案。Amodei表示，成立联合标准机构“类似于冷战时期美国与苏联达成的战略武器限制谈判”。
Amodei认为，前沿人工智能带来的风险日益增大，已难以按照当前速度继续开发。他判断，在人工智能模型性能达到临界点之前争取1至2年时间，并改进技术以使人工智能的行为符合人类意图和价值观，便能够降低发生严重问题的风险。
其他人工智能企业负责人也相继回应。与Amodei关系不睦的OpenAI首席执行官Sam Altman表示：“设置拥有与员工同等访问权限的独立评估者，是一个非常好的想法。”谷歌DeepMind负责人Demis Hassabis也表示：“为应对关键时刻而采取的方向是正确的。我们近期提议成立面向前沿人工智能的行业标准机构，原因也正在于此。”微软首席执行官Satya Nadella也称：“应当基于一项核心原则，即不利于人类、且无法受到人类控制的超级智能不值得追求。我欢迎为将对齐作为设计目标所必需的研究、关注和审慎的节奏。”
此类讨论的背景是，人们愈发担忧，若人工智能自主开发下一代人工智能模型的递归自我改进能力不断提升，技术发展可能超出人类的控制范围。今年7月，OpenAI的智能体入侵开发平台Hugging Face的事件表明，人工智能在自主执行复杂任务的过程中，可能越过被授予权限及测试环境的边界，进一步加剧了失控担忧。Amodei强调：“递归自我改进不仅出现在Anthropic，也已出现在整个人工智能行业。若放任不管，其发展可能超越人类理解和控制人工智能的能力。”
不过，放缓发展速度的共识能否转化为具体行动仍属未知。在美国与中国围绕人工智能主导权持续竞争的情况下，美国政府和企业自愿放慢开发速度的动力并不大。高丽大学Human-Inspired人工智能研究院教授Choi Byeongho预测：“在中国企业技术实力快速追赶的情况下，若美国企业放缓开发速度，可能被反超。鉴于美国政府和企业不得不加快人工智能开发，放缓发展速度的主张恐怕难以导致实质性的开发中止。”
人工智能安全研究所所长Kim Myeongju建议：“在大部分前沿人工智能均由美国企业开发的情况下，若美国连安全测试和认证标准都占据主导地位，未来或将直接关系到技术霸权。韩国也应为具备前沿人工智能能力做好准备，参与国际讨论，并在开发过程中吸取领先企业经历的试错经验。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
