[AI保险,创新之阴影]②AI渗透至保险金审核…消费者保护面临考验
从OCR、NLP到欺诈检测 应用范围不断扩大
监管不足且过度依赖AI结果时或现误判风险…“担忧人工介入流于形式”
判断依据不明的“黑箱审核”加剧消费者保护空白
上班族A某近日在首尔一家眼科接受了非医保检查(PP代码)后,遭遇了一次令人哭笑不得的经历。第一次申请理赔时保险金正常获赔,但在接受同样的检查后提交的第二次理赔,却被以“非保障对象”为由拒赔。向保险公司提出抗议后,对方回应称:“上次是人工智能(AI)审核过程中错误划分了项目,误付了保险金。”A某表示:“一会儿说是机器犯错,现在又说不能赔,我完全无法接受”,“为什么要由投保人来承担机器的失误?”他愤怒地说道。
AI在保险金审核中扩散…效率背后隐藏的“不确定性”
人工智能(AI)的引入,已经从保险咨询和理赔等面对面接触环节,进一步渗透到决定是否支付保险金的“审核”领域。自事故受理、单证识别到给付判断,全流程实现自动化后,处理速度和效率大幅提高,但围绕“应当在多大程度上信任算法介入后的判断”这一问题的争议也在不断扩大。
2日据保险业界消息,国内主要的人寿保险公司和财产保险公司正积极扩大将AI引入保险金审核流程的自动化系统。典型做法包括:对通过手机或互联网提交的信息进行实时审查并判断是否给付,或通过分析出险车辆照片来测算维修费用的图像识别型损失评估技术。
技术的精细程度也在不断提升。通过应用光学字符识别(OCR)和自然语言处理(NLP)技术,系统可以识别诊断书、收据等复杂医疗文书,并自动将其与疾病代码和治疗项目进行关联。此外,在保险欺诈侦测领域,利用比对数据间关系的网络分析技术,或利用社交媒体数据的文本挖掘等高阶AI分析技术,也在被全方位应用。
AI审核的优势是明确的。高频率、简单且金额较小的案件处理速度得以加快,同时减少了材料遗漏和计算错误,实现了更具一致性的核查。业内表示,审核人员可以在减少重复核对工作的同时,将更多精力投入到争议可能性较高的案例或复杂的损失评估业务上。实际上,部分保险公司表示,引入AI后,从保险金审核到给付的平均处理时间已大幅缩短。
“AI说不行就是不行?”…担忧人工审核人员不加批判地接受结果
问题在于,当AI得出的结果被当作内部“绝对审核标准”来运作时,就可能引发风险。目前,大多数保险公司将AI作为一线分析工具,最终决定仍由人来作出,采取的是“混合式”结构。事故受理后,AI会与以往数据进行比对,算出风险评分或损失估算额,由审核负责人在此基础上进行审查并作出结论。
然而有观点指出,若审核负责人出于提高工作效率的考虑,过度依赖AI分析结果,那么人的介入程序可能沦为“形式上的批准”。资本市场研究院高级研究员Hong Jiyeon表示:“如果在AI决策过程中,人类的介入与监督不足,就可能产生各种问题”,“在内部控制体系不完善的情况下,AI的故障或不合理判断可能无法及时纠正,而对AI结果不加批判地接受的‘过度信赖风险’本身就会成为一大主要风险因素。”
算法“基于历史数据学习”的基本属性,同样是威胁消费者保护的因素。如果过去的保险金给付惯例较为保守,AI就会原样学习并强化类似判断。分析认为,尤其是在患者特殊的医疗过程或背景无法得到反映,而被算法当作简单模式处理时,便始终存在得出与实际情况相去甚远的“拒赔”结论的风险。
“我为什么被拒赔?”…难以作答的“黑箱式审核”
保险欺诈侦测系统的两面性同样处于争议中心。精细的侦测有助于筛除虚假理赔,防止善意投保人的保费被迫上涨,但如果标准过于严苛,则可能将正常理赔也归类为可疑对象。有意见指出,当某些医院或治疗方式因重复出现而被AI发出“风险信号”时,消费者就会被要求提交额外材料或接受复审,从而背负不必要的程序性负担。
从消费者保护角度看,最大的争点是“可解释性”。即便在保险金被拒付时,保险公司对条款事由作出说明,普通消费者实际上也几乎不可能理解真正参与判断的AI算法的输出逻辑。这就是判断依据不透明、所谓“黑箱”的问题。
责任归属同样模糊。当消费者因AI判断错误而受到不利影响时,究竟应由保险公司承担全部责任,还是应与系统供应商分担责任,目前尚缺乏足够具体的标准。有舆论认为,如果放任可解释性问题不管,可能会演变为使数字弱势群体连提出异议的机会都被切断的“被边缘化”问题。
归根结底,随着AI审核的不断扩大,业界被指有必要超越单纯由人进行最终批准这一形式化程序,建立能够在消费者可理解的层面上提供说明并切实保护其权益的系统性制度。顺天乡大学IT金融经营学科教授Kim Yongha表示:“目前保险业对AI的应用尚未达到完全取代人类判断的程度,更接近于辅助简单、重复性工作的阶段”,但他同时强调:“今后随着对AI技术的依赖度不断提高,如何对其进行有效管控并明确责任结构,将成为核心课题。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。