“福利、招聘乃至罚款都能交给AI吗”
成败不在引入数量,而在“责任体系”
应保留一定领域作为“人类专属区域”
人工智能(AI)正迅速成为行政管理的新标准。政府正加快推动从各部门应用扩展至整个行政体系的AI转型。行政安全部提出了实现AI民主政府的战略,科学技术信息通信部也将AI视为国家竞争力的核心支柱,为政府的AI转型提供支持。
这一方向本身是合理的。AI是减少重复性工作、高效分析数据、主动告知民众所需行政服务的有力工具。“福利通知”和“国民秘书”等服务展现了AI行政管理的潜力。
问题在于,当引入AI的数量成为衡量创新的尺度时,就可能本末倒置。如同私营领域所谓的“AI漂绿”,不能将“引入了AI”这一事实本身夸大为创新。若系统增加了,公务员的工作却没有减少,民众仍须提交同样的材料、经历同样的程序,那么AI就不是创新工具,而只是覆盖在既有官僚体系之上的新外壳。
更何况,行政管理中存在不能完全交由AI处理的领域。荷兰的福利风险识别算法曾引发歧视和侵犯隐私争议;英国在新冠疫情期间用于核定大学入学考试成绩的算法也招致强烈反对,最终被废弃。亚马逊也曾废弃一款对女性求职者不利的AI招聘工具。
教训十分明确:如果数据中蕴含着过去的偏见,AI非但不会消除它们,反而可能以更快、更精密的方式重复这些偏见。特别是福利资格、许可审批、行政罚款、招聘与晋升等直接影响民众权利和生活的判断,不能仅凭数字作出决定,因为其中还涉及特殊情况、具体语境和价值判断。
归根结底,核心在于责任。于今年8月施行的《AI基础行政活性化法》也明确规定,最终责任由公共机构承担。当AI作出错误判断时,谁应负责?是开发者、引入AI的部门,还是拥有最终决定权的公务员?如果在未回答这些问题的情况下只是一味扩大AI应用,技术就可能成为逃避责任的免责工具。风险越高的决定,越应将人工监督、判断依据的记录、说明及异议申请程序制度化。有必要重温Bill Gates提出的“人类保留区”(Human Reserved)理念,即应为人类保留部分领域。
当前政府所需要的,并不只是AI引入的速度竞赛。应划定边界:哪些事务可以交给AI,哪些事务起必须由人类承担责任。重复性强、规则明确的工作可以交由AI处理,但涉及权利与责任的决定必须保留在人类领域。AI政府的成败也不应以建成系统的数量来衡量,而应看引入后行政管理是否真正发生改变。应先制定并公开材料重复提交率等民众能够切实感受到的指标,对没有成效的项目则应予以清理。
政府越是将AI置于前台,问题就越简单:不是应将AI用于何处,而是哪些地方不应使用AI。行政创新或许始于增加技术,但只有减少不必要的程序与惯例、守住必须由人类负责的领域,才能真正完成。
Oh Cheolho,崇实大学行政学部名誉教授
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。