如今迈向超越开发的“验证时代”
即使通过标准,也难保持续有效
从科技巨头到律师事务所,纷纷充当“监测者”
亟须建立新的“信任基础设施”

[The View]人工智能无法建立自身的信任 View original image

随着企业开始全面应用人工智能,一个意想不到的问题随之出现:就连企业自身,也难以清楚解释自家人工智能究竟作出了什么决定、依据又是什么。以人力资源管理系统闻名的Workday,因其人工智能招聘系统被指依据年龄和种族歧视求职者,于2025年面临全国性集体诉讼。


欧盟的《人工智能法案》规定,高风险人工智能系统必须接受外部审计。董事会和股东也开始要求企业说明,如何管控其部署的人工智能。如今,人工智能不仅需要开发,如何验证它也已成为一个重要问题。


为解决这一问题,美国正从多个方向同步孕育出一个新产业。Credo AI、Fiddler、Arthur AI等专业初创企业提供工具,实时监测人工智能系统的偏差、性能及监管合规情况。


亚马逊、微软和谷歌已开始内置治理功能,自动检查部署在各自云平台上的人工智能。律师事务所正将人工智能相关的监管咨询和合同审查培育为新的收入来源。咨询公司也在扩展人工智能验证相关业务部门。不同产业正以各自的方式,尝试解决人工智能验证这一共同问题。


这一动向之所以令笔者感兴趣,在于产业形成的方式本身。迄今为止,建立信任的产业大多采用同一种模式:由具备特定资质的专业人士,在规定时间按照既定标准进行验证,再盖章认可。汽车安全检测、食品卫生认证以及财务审计,都是如此。然而,人工智能持续变化和发展,使得这种方式难以有效运作。


例如,汽车检测是确认车辆在某一时点的状态。只要当时符合标准,就予以盖章认可。财务审计同样如此,即核查并认证特定时点的财务状况。然而,人工智能系统的数据会更新,模型会重新训练,输出结果也会随用户行为而变化。昨天通过的验证,无法保证今天仍然有效。因此,人工智能验证不应只在某一时点进行一次,而应贯穿系统的整个运行周期。它不是一次盖章便告结束的程序,而更接近持续运转的监测系统。


多个产业同时进入这一市场,原因也在于此。没有哪一个产业能够独自妥善解决这个问题。每个产业都掌握着解决问题所需的不同部分:咨询公司拥有应对监管的经验,初创企业具备实时技术监测能力,云计算巨头拥有直接访问系统的条件,律师事务所则具有从法律层面厘清责任归属的经验。这些部分将如何整合,决定着这一产业未来的形态。


与此同时,一个更根本的问题也浮现出来:人工智能验证真的能够恢复信任吗?验证之所以能够成立,归根结底取决于验证方是否值得信任。然而,如果监测人工智能的工具大多也由另一套人工智能构建,我们又凭什么信任这些监测者?这个问题目前还没有答案,而且在未来一段时间内也不会有。不过,为回答这一问题而展开的严肃探索,将决定新产业的形态。


归根结底,当前需要建立的是人工智能时代的信任基础设施。这套基础设施最终形成何种形态,将决定未来哪些人工智能能够在市场中生存,以及哪些企业有资格部署人工智能。我们过去一直关注开发人工智能的产业,但未来更重要的故事,将来自验证人工智能的产业。



Son Yunseok 美国圣母大学教授


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点