韩国首个金融业专属评估框架
检查幻觉、偏见、安全攻击等10个项目
经14日说明会及9月需求调查后
下半年开展试点验证
金融安全院建立了一套评估体系，可全面检查金融公司在应用人工智能（AI）过程中可能出现的幻觉、误操作及安全事故等风险。该院计划今年面向金融公司开展试点验证，并从2027年起正式启动评估工作。
金融安全院12日表示，已开发出韩国首个专注于金融产业的“金融AI安全性·可信赖性评估框架”。
此次框架旨在金融监管机构放宽网络隔离监管等背景下、金融业人工智能转型（AX）加速推进之际，对应用AI所带来的新风险进行系统化管理。随着金融公司使用AI的范围扩展至核心业务，有必要建立可应对幻觉、误操作和安全事故等问题的金融业专属评估标准。
金融安全院分析了包括金融委员会《金融领域人工智能指南》、金融监督院《金融领域AI风险管理框架》、AI基本法等韩国国内制度，以及国际标准化组织（ISO）的AI管理系统标准《ISO/IEC 42001》、英国AI安全研究所（AISI）的评估工具“Inspect”等国内外评估体系，并据此制定了详细标准。
该评估体系由AI可信赖性和安全性两大领域、共10个项目构成。可信赖性领域评估▲模型性能管理▲数据质量管理▲公平性·偏见性▲可解释性。具体包括：AI模型的性能指标和容许标准是否得到适当设定，是否持续检查幻觉及性能下降等情况。除数据的准确性、完整性和一致性外，还将检查模型运营过程中是否管理偏见，是否向用户说明使用AI的事实及决策过程，以及是否建立异议提出和救济程序。
安全性领域由▲AI专属安全威胁▲AI专属攻击检测·应对▲AI资产保护·管理▲外部模型·数据验证▲安全管理体系的扩展应用▲安全验证及运营管理等6个项目组成。
评估内容包括是否通过审查和过滤输入值来检测、拦截对抗性攻击，是否管理AI模型、相关资产及开源资源的安全风险等。外部引进模型和数据的安全性、供应链安全风险、内部信息泄露防范体系，以及是否遵守数据跨境传输限制，也将被纳入评估对象。
金融安全院将于14日面向金融公司举行线上说明会，并于9月开展需求调查。下半年将通过试点验证检查框架的实效性，并完善评估标准。明年起，将优先面向金融安全院会员单位开展评估工作，待运营稳定后再研究扩大至所有金融公司的方案。该院还将推进相关方案，使这一框架能够作为依据AI基本法开展AI安全性·可信赖性验证与认证的体系。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
