推进包括篡改内容精准检测系统在内的八大任务
随着滥用人工智能(AI)技术实施的犯罪不断演变,已从深度伪造等性犯罪扩展至诽谤、投资诈骗、语音钓鱼等多种形式,警方着手升级相关检测与分析体系。
韩国警察厅国家侦查本部15日表示,将制定并实施人工智能非法篡改内容检测与分析体系升级基本计划。此举旨在主动应对滥用人工智能技术的犯罪,并构建让民众安心的人工智能生态系统。警方表示,该计划着重提升快速、准确检测和判别内容是否遭到篡改的能力,并加强分析利用人工智能技术实施篡改、传播等犯罪全过程的能力。
为此,警方将从技术、系统、人员和组织等方面推进八项细分任务,包括:▲构建人工智能篡改内容精准检测系统 ▲开发自动化分析工具并升级相关技术 ▲组建人工智能专业分析人员队伍等。
首先,警方将构建“新一代精准检测系统”,以便快速检测人工智能篡改内容并采取应对措施。警方自2024年起引进并使用已在全球广泛应用的深度伪造检测系统,目前正通过训练系统识别韩国人相关资料,使其适应韩国实际情况,从而提升性能。
此外,警方还在主动推进引进“多模态深度伪造检测技术”的研究与开发项目。以往主要通过视频、图像等视觉要素判断内容是否遭到篡改,今后则计划结合分析语音、文字等信息,提高检测性能。例如,综合核查视频中的口型与声音是否一致,以及语音与字幕内容是否相符。
除此之外,警方还将强化针对利用生成式人工智能等技术生成、传播篡改内容等犯罪过程的分析技术。目前正在选定使用频率较高的主要生成式人工智能服务,并开发犯罪过程分析方法,包括分析运行历史和指令记录、识别用于篡改的特定程序、分析变形资料等。警方还将发布相关说明手册,并同步研究新兴技术。
与此同时,警方还将开发自动化工具,以便分析利用人工智能技术生成、传播非法篡改内容的犯罪全过程并提取证据。为此,警方从今年起将在4年内投入100亿韩元,开发针对本地环境人工智能模型的取证技术,并扎实推进相关研究项目。
韩国警察厅厅长代理 Kim Jongcheol 表示:“利用人工智能技术实施的犯罪变化迅速,警方的应对方式也必须随之改变。我们不仅要快速发现人工智能篡改行为,还要具备能够有效追踪其制作和传播过程的先进侦查能力,让民众能够安心。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。