从发现人工智能错误到弥补损失……国会未来研究院：“应打通应对机制”
故障损害恐持续累积，现有恢复应对机制存在局限
建议建立机构联合应对机制，保障用户申请重新审核的权利
国会未来研究院建议建立一套综合应对机制，涵盖发现人工智能判断错误、纠正错误以及弥补损失等环节。研究院指出，人工智能可能在正常运行的同时反复作出错误判断，导致损害不断累积，因此有必要扩大现有以恢复服务故障为中心的应对机制。
国会未来研究院11日发布简报《人工智能深度融入与数字服务韧性》，并提出三项政策方向。
随着人工智能逐渐融入医院影像判读辅助、地方政府福利咨询、银行对话式转账等实际业务，其运行错误的风险也在上升。即使系统正常运行，在贷款或福利补贴审核中反复作出错误判断，也可能导致损害不断累积，直至之后才发现错误。
研究院指出，韩国虽已制定《人工智能基本法》《个人信息保护法》等相关制度，但适用对象和程序彼此分离，应对责任也分散在多个机构，因此缺乏一套能够贯通错误纠正与损害补救的机制。
为此，研究院建议制定相关标准：一旦错误达到一定程度，就限制人工智能的使用，或转由人工审核；同时确立牵头应对机构与相关机构的联合处置程序。研究院还强调，当人工智能判断影响权利和安全时，无论是否采用自动化方式，都应保障用户提出重新审核请求的权利；对于已确认的错误，还应查找并纠正其他因此受损的用户案例。
报告作者、研究委员Yoo Heesu表示：“应从影响国民权利和安全的服务入手，将发现错误、纠正错误和弥补损失的制度贯通起来。”
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
