将“受害者保护技术”变为公共财产
让首尔的创新在全国各地落地
处理时间从3小时缩短至6分钟,速度提升30倍
首尔市开发的“数字性犯罪人工智能(AI)删除支援”技术将免费推广。这是一项从检测到删除线上传播的性剥削影像、显著缩短所需时间的技术,也是实现“技术公共财产化”的首个案例。
首尔市于2日表示,将从3日签署首份免费技术转让协议开始,向有意全面引进该技术的政府机构、地方自治团体和企业等推广“数字性犯罪AI删除支援”技术。
这项技术通过人工智能24小时实时监控,各类非法网站和社交媒体上的受害影像会被自动检出,进而迅速删除并阻断再次传播。该技术在2023年荣获政府创新优秀案例“总统奖大奖”,2024年荣获“联合国公共行政奖大奖”,其优越性不仅在国内,也在海外获得认可。尤其是作为全国首例取得了技术专利注册,其有效性得到验证。首尔市与首尔研究院完成核心技术开发后,由“首尔数字性犯罪安心支援中心”负责运营。
2024年又构建了儿童·青少年人脸识别年龄预测删除支援技术,2025年则追加建设了从检测到举报全流程自动化的AI自动举报系统。
该技术的核心在于,与以往由人工肉眼逐一查找并举报的方式相比,处理时间从3小时缩短至仅6分钟,处理速度提升了30倍。除首尔市外,全国其他数字性犯罪受害支援机构仍由咨询员手工检索受害影像。首尔市预计,通过免费推广AI删除支援技术,每个机构可节省约1.8亿韩元预算。
这不仅是“保护受害者的技术”不再为首尔市独享,而是实现“技术公共财产化”模式的首个案例,也具有重要意义。市政府计划此次AI技术免费推广不局限于特定机构或部分地区,而是在公益目的范围内,支持政府机构和地方自治团体等广泛加以利用。
实效性也已得到验证。引进AI技术后,“首尔数字性犯罪安心支援中心”的删除支援件数从2022年的2509件增至2025年的1.5777万件,4年间增加了6倍以上。人工智能还会新发现以往人工难以发现的新非法网站,因此在新网站上发现并删除受害影像的支援件数大幅增加。
对深度伪造视频的检测也成为可能。过去需要受害者持有原始视频才能检索到相同影像,而人工智能即便在没有原件的情况下,也能通过视频、音频、文本三种分析方式识别并检测出复制版本。
引进人工智能技术后,还起到了最大限度减轻必须每天观看受害影像的工作人员心理痛苦的效果。人工智能会先对受害影像进行模糊处理后再交由删除支援员处理,并代替他们承担重复性的非法影像检索工作,从而保护删除支援员的心理健康,并确保其工作具有可持续性,这一点也意义重大。
Oh Kyun首尔研究院院长表示:“此次人工智能技术是全国首个获得专利的创新技术,也是首尔研究院将其开发的公共技术为实现社会价值而免费开放的首例”,并称“研究机构开发的技术能够在全国各地的受害者保护一线带来实质性改变,意义非常重大”。
Ma Chae-suk首尔市女性家庭室室长也表示:“此次首尔市免费推广人工智能技术,是在将受害者保护置于首要考量基础上作出的决断,从将首尔市开发的‘受害者保护技术’不再视为首尔市独有,而是扩展为维护公共安全的公共财产这一点来看,具有重大意义。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。