SK Shieldus、AhnLab、高丽大学等11家机构参与
"利用安全企业现场数据训练人工智能模型"
7日下午,在SKT大楼举行的“自主AI网络安全协商机制”启动仪式上,与会者合影留念。照片从左至右依次为:SK电信AI技术中心主任Choi Yongjin、SK电信AI战略规划室主任Choi Donghee、崇实大学AI学院院长Choi Daeseon、釜山大学教授Heo Shinuk、SK电信基础模型负责人Kim Taeyoon、Upstage公共部门代表Lee Jaeyong、SK电信AI CIC负责人Yoo Gyeongsang、高丽大学信息安全研究生院院长Jeong Ikrae、高丽大学教授Kwon Heonyeong、AhnLab代表Kang Seokgyun、SecuI代表Jeong Samyong、Piolink代表Jo Yeongcheol、Genian代表Lee Dongbeom、RaonSecure代表Lee Jeonga、SK Shieldus副总裁Kim Byeongmu。SKT供图。
View original imageSK电信8日表示,已与Upstage、韩国主要信息安全企业及高校共同成立“自主人工智能网络安全协商机制”,并签署了关于人工智能信息安全技术合作的业务协议。
前一天下午,在SKT大厦举行的签约仪式上,SK电信和Upstage,以及SK Shieldus、SECUI、AhnLab、Raon Secure、Genians、Piolink等6家信息安全企业,还有高丽大学、崇实大学、釜山大学等3所高校,共计11家机构参与。
此次协议旨在将SK电信的“A.X K”系列和Upstage的“Solar”拓展至网络安全领域。两款模型均入围政府“自主人工智能基础模型项目”(自主基础模型项目)第三阶段。协商机制将以安全企业的现场数据训练这两款模型,由高校验证其安全性,再将模型应用于参与机构的安全产品和服务,以检验实际成效。
SK电信和Upstage计划将参与机构在恶意软件分析、漏洞分析、安全监控等实际安全工作中产生的数据用于训练双方的人工智能模型,从而提升人工智能理解和判断安全状况的能力。
训练分两个阶段进行。预训练阶段将利用安全数据夯实模型的基础知识。SK电信的下一代模型“A.X K3”将系统学习安全领域数据,并补充用于安全运营面向全民的“人人的人工智能”服务的数据。Upstage则将集中使用漏洞检测与分析相关的安全数据,训练其下一代Solar模型,使其能够一次性分析大容量代码和长期日志。
随后进入后训练阶段,利用安全现场的业务数据提升模型执行实际工作的能力,涵盖软件漏洞分析与修补、安全监控中心的事故应对,以及安全工具的安全使用等。参与协商机制的信息安全企业将把各自在威胁情报、恶意软件分析数据、安全解决方案运营经验等领域的专业能力融入模型开发与验证。
参与企业将把“A.X K”和“Solar”应用于各自的安全产品和服务,包括尚未发布安全补丁的漏洞(零日漏洞)分析和实时安全监控,并在实际运营环境中开展联合验证。验证过程中,各方将确认模型的性能与安全性,并将现场获得的分析和应对经验重新用于训练。计划借此构建从数据获取、模型训练到性能验证的良性循环。
协商机制将采用“A.X K”和“Solar”相互攻击、评估并寻找漏洞的“相互红队测试”。过程中发现的漏洞案例将作为训练数据,增强两款模型的防御能力。红队测试的设计与评估由参与高校以第三方身份负责。高丽大学将验证人工智能分析可执行文件的能力及其抵御攻击的能力;崇实大学将评估人工智能安全性能,并检验其应对绕过安全防护措施(护栏)攻击的能力;釜山大学则将验证下一代模型和轻量化模型的性能与安全性。
SK电信人工智能CIC负责人Yoo Kyungsang表示:“在自主人工智能基础模型项目中经过验证的模型,将与韩国具有代表性的信息安全企业和高校携手,在实际安全现场证明其成效。我们也将在网络安全领域展现国家级人工智能模型的应用成果。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。