AI错误与扭曲风险成首要担忧
责任认定关键在最终批准者
重在强化组织责任而非系统本身
伦理标准侧重管控胜过技术
AI只是工具 判断仍在人类

随着引入人工智能(AI)的应用不断扩散,企业最为担忧的风险因素被指并非技术竞争力,而是“AI错误”及其所带来的责任问题。这意味着,尽管AI能够提升业务效率和生产力,企业和组织最为警惕的仍是AI生成结果中的错误或扭曲可能带来的影响。


《亚洲经济》在上月8日至19日期间,以国内主要100家大型企业的人事、战略、组织、企划部门负责人为对象,开展了“AI导入后组织变化实态调查”。结果显示,在AI使用中最为重视的伦理标准方面,将“防止AI结果错误与扭曲的标准”选为首要标准的企业有74家中的26家,占比35.1%,为最多选项。

[AI时代,岗位在改变]企业最害怕的是“AI错误” View original image

其后,将“AI使用时责任主体标准”列为最重要的企业有21家,占28.4%;回答“重视AI使用过程中的记录与追踪标准”的企业有15家,占20.3%。将“客户保护标准”视为最优先的回答仅有12家,占16.2%。在AI被用于客户接触点或决策过程的情形下,这一结果表明,相比于技术本身的应用,企业更担心的是错误发生的可能性及其影响如何加以控制。


对AI错误的警惕也清晰体现在责任认定方式上。针对“因AI引发业务风险时,谁应成为责任主体”的提问,有25家企业(33.8%)回答应由“相关业务的最终批准人”承担责任。认为是“经营层或组织层面的责任”的企业也有19家,占25.7%。


相反,将“AI系统运营与管理部门”视为责任主体的回答有16家,占21.6%;选择“相关业务的一线实务担当者”的则有14家,占18.9%。也就是说,即便由AI来执行工作,在结果责任方面,占主导地位的认知是:应由最终决策者和组织,而不是系统或个人来承担。


这一结果显示,企业并未将AI视作独立的决策主体,而是作为辅助人类判断的工具来使用。其背后的判断是:如果不维持由人来审核和批准AI给出的结果这一结构,而是直接采纳AI输出,那么可能导致整个组织必须承担的风险大幅增加。



参与调查的企业认为,随着AI导入步伐的加快,相较于技术性能,错误管理和责任架构正成为更加重要的课题。因为AI的应用范围越广,一个小小的错误就越有可能演变为影响决策、动摇客户信任,甚至引发法律纠纷的重大问题。

[AI时代,岗位在改变]企业最害怕的是“AI错误” View original image


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点