先于自动化消失的“责任”之问

[THE VIEW]AI时代,谁来做决定 View original image

在引入人工智能(AI)之后,组织中消失得最快的并不是重复性工作,而是那个问题——“是谁做出的决定?”。会议室里越来越频繁地出现一句话:“是AI这么说的。”这句话看上去像一种高效的表达方式,但实质上却是在模糊责任与权力边界的信号。


从美国企业的现场来看,这种差异正变得愈发清晰。即便使用的是同样的生成式AI、同样的推荐系统、同样的自动化工具,有的组织取得了绩效,有的组织却只是在放大混乱与不信任。有趣的是,这种差异并非源于技术水平或数据量。关键在于,组织把AI放在什么位置,换句话说,是治理结构的问题。


能够产生成果的组织,会明确将AI界定为“辅助工具”。AI可以进行分析和提出建议,但不做判断。决策的最后一步始终由人来完成,责任的归属也十分清晰。在这样的组织里,“AI这么说了”绝不会成为最终依据,相反,这句话只是提问的起点:为什么会得出这样的推荐?是基于什么假设?这些假设在当前情境下是否依然有效?都会被一一追问。


相反,在被AI“支配”的组织中,边界开始变得模糊。起初为了提高效率而引入的AI,会在某个时刻被“升格”为判断的依据。管理者将AI的结果包装成“客观判断”以此为决策背书,成员则越来越难对这些结果提出异议。AI看上去像是中立的工具,但实际上却成为重新分配组织权力的装置。


在这一过程中,一个关键问题被悄然省略:是谁设定了AI?是谁解读了这些结果?又是谁承担责任?调整AI模型参数的人、划定数据范围的人、把结果整理成报告的人是谁,都会让同一个AI在不同组织中催生出完全不同的文化。如果AI被管理层垄断,控制就会被强化;如果向一线业务开放,试验与学习就会增加。技术相同,但结果会因组织设计而出现极端分化。


最近在美国出现的另一项变化,是AI“验证劳动”的增加。AI越是撰写报告、概括合同、自动应对客户,相应的复核和修改工作就越不会消失,反而只会增多。问题在于,这项验证责任往往没有被清晰界定。企业声称通过AI降低了成本,但在一线,验证和修订这些结果的隐性劳动却被转嫁给个人。这也是生产率统计数据与员工实际感受之间出现落差的原因。

“人工智能是这么说的”这句话被包装成效率口号,使人类决策的责任与权限边界正在实时变得模糊。Google Gemini 生成图像供图。

“人工智能是这么说的”这句话被包装成效率口号,使人类决策的责任与权限边界正在实时变得模糊。Google Gemini 生成图像供图。

View original image

因此,一些美国企业开始重新定义AI应用的绩效。如今,“AI使用得有多积极”已不再是好的评价标准,取而代之的是“对AI信任到什么程度、又在什么地方踩了刹车”。不是完全照搬AI建议的人,而是认识到其局限并进行补充完善的人,会获得更高评价。AI应用能力正在被重新界定为判断能力与责任感。


在监管环境中,这个问题也正日益走向前台。美国联邦贸易委员会和消费者金融保护局,与其单纯质疑算法的准确性,不如说已开始把责任结构不清晰的自动化决策本身视为风险因素。与其说无法解释“为什么会得出这样的结果”的系统危险,不如说更危险的是一个无法厘清“谁为这个结果负责”的结构。


对韩国的企业和组织而言,这个问题同样绝非“他人的故事”。在强调快速决策与效率的文化中,AI看上去是一个能够“省略中间环节的工具”。但正因为如此,AI判断被轻易提升为上位标准的风险也更大。尤其是在评价、人事和绩效管理领域,AI的权威很可能会迅速被制度化。


归根结底,在AI时代,组织竞争力的分水岭不在于技术导入的速度,而在于划定边界的能力。只有那些能够区分AI能做什么、不能做什么,能够设计好哪些领域可以自动化、哪些领域必须保留人为判断,并且最重要的是,能够在失败时清楚界定责任归属的组织,才称得上是真正“在使用AI”的组织。


AI不会主动支配组织,它只会悄然暴露那些习惯把判断外包、把责任回避掉的组织。未来,随着更多组织引入AI,真正的差异化将不会从技术开始,而会从提什么样的问题开始。



Son Yunseok 美国圣母大学教授


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点