AX推进越快，组织体系化越成课题……“AI造成错误与失误的副作用”

有观点指出，企业推进人工智能转型后，虽然能够提高业务生产效率，但鉴于其在决策过程中也可能引发错误和失误，因此有必要建立能够及时纠偏的人工智能转型组织体系。

View original image

22日，《哈佛商业评论》在题为《不要让人工智能制造的劣质产出毁掉组织》的报告中指出，积极引入人工智能的企业正经历“知识衰退”现象。所谓知识衰退，是指人工智能生成的低质量结果在组织内部不断累积，导致企业用于决策的信息准确性和可靠性下降。就像个人使用生成式人工智能时会遭遇“幻觉”一样，知识衰退则是一种因劣质产出在整个组织内持续堆积而产生的结构性问题。

在需要人类专业能力的报告或分析资料等领域，人工智能能够轻易生成格式相似的文档，这使得外界越来越难评估其中究竟有多少经过了人工审核与判断。也有担忧认为，原始资料经由多个人工智能反复再加工后，若在最初含义或事实关系已变得模糊的情况下被再次使用，不仅会影响企业业务流程，还可能拉低人工智能模型本身的质量。如果不投入时间核查并修正人工智能生成结果中的事实关系和语境，那么企业原本期待通过引入人工智能获得的生产效率提升也会随之减弱。

有观点指出，韩国企业在导入人工智能后，尚未建立起能够进一步提升效率的组织系统，这是一项明显局限。根据微软发布的《2026工作趋势指数》，认为组织运用人工智能能够带来回报的韩国受访者比例仅为7%，只有全球平均水平的一半左右；而认为人工智能战略方向明确的比例也仅为16%，低于全球平均水平的26%。

因此，组织能否以体系化方式验证人工智能导入效果，正成为企业的核心课题。专家建议，随着人工智能转型全面展开，与其一味扩大人工智能导入规模，不如优先建立组织管理体系。也就是说，需要设置专门阶段，验证人工智能的应用是否真正提升了组织决策和业务流程的质量。中央大学人工智能系教授 Lee Jaeseong 表示：“过度依赖人工智能所生成的结果，可能会使其中出现的错误一路延续到决策阶段。”他并建议，“有必要提升企业内部的业务专业性。”他还补充称，“制定业务推进指引，以及区分人工智能与人工工作边界等做法，正逐渐成为趋势。”

必读新闻

三星与SK海力士双强格局会否生变……美光祭出“HBM 10万片”杀手锏[芯片谈]

• “那么漂亮的人……”过于“完美美女”对心理健康的影响[实验笔记]
• 未获博士学位的专业研究人员……法院：“剩余5.99个月，撤销现役入伍”
• “三星电子福利点燃房价”……“三星效应”下突破9亿韩元的社区[房地产A to Z]
• “别送孩子上学”Jeong Hyeongdon阐述坚持观点的原因

西江大学经营学系教授 Kim Yongjin 也表示：“人工智能的幻觉无法完全避免，因此其产出并不能被轻易相信和直接使用。”他解释称：“应构建将人类知识结构化的本体数据，以减轻验证负担，同时明确人工智能与人工之间的分工指引和责任，建立能够进行监测的组织结构。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。