科学技术信息通信部(科企部)召集人工智能及安全领域专家,就构建人工智能安全生态系统广泛听取意见。专家们指出,应当将人工智能安全问题上升到国家安全层面加以讨论。


科学技术信息通信部当天在首尔中区银行会馆召开“构建人工智能安全生态系统总体规划意见征求座谈会”。孔炳善 记者

科学技术信息通信部当天在首尔中区银行会馆召开“构建人工智能安全生态系统总体规划意见征求座谈会”。孔炳善 记者

View original image

科企部于6日在首尔中区银行会馆召开“构建人工智能安全生态系统总体规划意见征求座谈会”。座谈会与韩国信息通信技术协会(한국정보통신기술협회)、人工智能安全研究所(인공지능안전연구소)共同举办。


出席座谈会的韩国信息通信技术协会团队长Gwak Junho在主题发言中警告称,由人工智能引发的安全风险可能扩展为国家安全问题。Gwak团队长表示:“在我们失去对人工智能控制权之前,应当先划定人工智能的应用领域”,“人工智能完全有可能扩展为舆论操纵或网络恐怖袭击等严重的国家安全问题。”他接着强调,应当营造安全环境,以保护国民免受人工智能风险侵害。


公民社会、学界及产业界专家在讨论中强调,随着人工智能应用范围不断扩大,必须加大保障安全性的努力。参与连带高级干事Lee Jieun指出:“当因人工智能遭受不利结果时,看不到为何会得出该结果、以及通过何种程序可以获得救济等相关程序和说明。”韩国消费者联盟秘书长Jung Jiyeon表示:“如果只依赖自律,最终就是把安全问题转嫁给国民。”


Kakao人工智能安全负责人Kim Kyunghoon强调,关于安全的讨论应进一步活跃。他表示:“通过开源社区,人工智能正在迅速发展,与安全相关的评估、技术等内容的开源社区也应同步扩散”,“与海外相比,韩国在这类社区方面相对薄弱。”他还表示:“通过技术手段来处理安全固然重要,但通过公共讨论来思考安全这一概念同样重要”,“如果政府多加努力,将从人工智能安全生态系统的角度带来巨大帮助。”


高丽大学信息安全研究生院教授Lee Sanggeun表示:“我们在产业领域,尤其是金融、医疗、公共领域,引入人工智能的速度与其他国家相比非常快”,“但在安全、信任及安保方面的问题却非常突出,应当在安全和安保的基础上,将讨论扩展到国家安全层面。”他还表示:“讨论人工智能安全时,我们主要只讨论通用人工智能”,“德国正从金融、医疗等各个分领域切入,我们应当参考这一做法,扩大与人工智能安全威胁相关的讨论。”



人工智能安全研究所所长Kim Myeongju解释称,为了构建人工智能应用基础,正在建设相关基础设施。他表示:“以人工智能安全融合中心为基础,我们正在制定培养人工智能安全相关多学科融合人才的计划”,“将制定人工智能安全评估和法律制度标准,并把研究所为安全性检测而建设的测试平台基础设施与企业和研究人员共享。”科企部计划在上半年内,综合此次座谈会提出的意见,发布国家人工智能安全生态系统构建总体规划。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点