担忧消费者利益与平台收益发生冲突
海外监管机构强调AI推荐透明度
"从推荐到办理……须管理利益冲突"
随着人工智能（AI）代替消费者挑选金融产品的时代日益临近，如何确保产品推荐过程的公平性，正成为一项新课题。如果AI平台的合作关系或盈利模式影响推荐标准，对消费者更有利的产品就可能在选择中落后。专家呼吁，应明确AI产品推荐的透明度和交易责任等问题。
据金融业界3日消息，英国金融行为监管局（FCA）、竞争与市场管理局（CMA）等4家监管机构于上月30日发布了关于保护AI代理消费者权益的联合声明。这些机构强调，如果AI在代替消费者推荐或交易产品的过程中存在商业利益关系，用户就应当能够了解这些关系对AI行为的影响。其宗旨是，在因错误判断而出现问题时，有必要明确责任主体和损害救济方式。
随着AI代理不断发展，能够根据消费者的具体情况购买产品，这类问题也变得愈发重要。AI可能不仅受到信用卡优惠、贷款利率、保险费等客观条件的影响，也会受到平台盈利模式和合作关系的影响。例如，如果平台被设计为将合作收益纳入推荐标准，那么相比为消费者提供更大折扣的A卡，能为平台带来更高收益的B卡可能会被优先推荐。在贷款或保险领域，对消费者更有利的利率或保障条件也可能不如其他产品那样排在推荐前列。
Toss Insight研究委员Yu Jaewon分析称：“本应以消费者净收益为中心设计的选择标准，随着运营方的经济动机而发生偏移，这种现象被称为‘目标函数漂移’。交易量、客户停留时间、交叉销售业绩、使用关联金融产品或获取数据等，能够为运营方带来经济价值的内部绩效指标，也可能产生同样的诱因。”
实际上，信用卡业界对AI代理支付带来的风险表示担忧。根据信用金融研究所对71名信用卡公司员工进行的调查，责任归属不明确被列为最严重的风险，平台依赖和推荐偏见等也被认为是主要风险因素。
业界指出，随着AI代理逐渐进入支付生态系统，有必要建立一套机制，以便核查金融产品的推荐标准和比较范围。也就是说，应当能够确认AI推荐特定产品的依据，以及合作佣金等经济利益关系对推荐结果产生了何种影响。信用金融研究所所长Yun Jongmun表示：“对于因广告或合作关系而作出的推荐，应让用户了解相关事实、比较范围和主要推荐标准。”
一名金融业界人士表示：“过去就存在把合作方产品放在前面展示的问题，但最终大多还是由消费者亲自比较并作出选择。如果AI代替消费者挑选产品并完成支付，甚至直接促成开户或投保，那么AI的一次操作就可能对实际金融交易产生更大影响。”该人士还补充说：“不能让对用户更有利的产品因为平台手续费等因素而被排到后面。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
