科学技术信息通信部召集CISO紧急检查当前议题
“须强化与AI‘两用’相关测试”
呼吁推动安全范式转变

Mythos引发“安全震荡”:“AI攻击必须用AI防御” View original image

“Anthropic最新人工智能(AI)模型‘Mythos’的推理能力相比既有模型实现了飞跃式发展,它像人一样,能自行建立并验证假设,动用一切可用方法。在已超越既有安全防护模式的情况下,人类无法应对来自Mythos的攻击,只能由AI来应对。”(Choi Byungho 高丽大学类人启发AI研究院教授)


Anthropic和OpenAI启动将最新AI模型应用于网络安全的项目,AI引发的安全冲击重创业界,相关行业正忙于制定应对方案。科学技术信息通信部接连紧急召集企业信息保护首席负责人(CISO),着手检查AI网络安全应对态势。


据16日信息通信业界消息,前一天下午在科学技术信息通信部主导下举行的座谈会上,40家主要企业的CISO出席,检查当前议题并讨论应对方案。此前,Anthropic已启动网络安全计划“Project Glasswing”,向谷歌、苹果、微软(Microsoft)、亚马逊、英伟达等美国极少数合作伙伴提供最新AI模型Mythos。Mythos展现出不仅能发现包括长达27年未被发现的操作系统(OS)漏洞在内的各类脆弱点,还能自主实施高强度攻击的能力,由此引发其被用于黑客攻击的担忧。


科学技术信息通信部信息保护网络政策室室长Choi Woohyuk表示:“Anthropic最新AI模型Mythos有望成为企业安全的防御工具,但也有可能被反向用作攻击武器,因此需要在官民层面进一步高度化安全状态。”他还称:“在部分意见认为Mythos性能被略有高估的情况下,我们将从均衡视角深入审视相关事态,并着手制定应对方案。”


科学技术信息通信部自14日起,已与SK Telecom、KT、LG Uplus三大通信运营商,NAVER、Kakao等主要平台企业以及信息安全产业界召开紧急会议,前一天还与国内主要信息安全企业举行接力座谈。该部相关人士解释称:“随着类似Mythos的最新AI模型不断出现,有舆论认为可能改变网络安全范式。Anthropic的Project Glasswing中目前仅有美国企业参与,尚无国内企业参与,但从需要将安全水平高度化到足以应对此类变化的角度出发,我们启动了此次现状检查。”


当天会议上,业界提出意见认为有必要对Mythos的性能进行具体验证,并建议在韩国也启动类似Project Glasswing的安全项目。一位出席会议的通信业CISO表示:“Mythos的性能尚未正式对外公开,相关报告预计7月发布,从民间角度看,信息可获得性可能存在局限。国家层面需要建立信息收集并向业界共享的机制。”


须排查老旧软件与开源组件脆弱点


业界正为应对AI驱动攻击扩散的可能性,检查利用威胁情报开展事前响应体系,并推进能够反映攻击样态变化的安全体系高度化。AhnLab网络安全中心本部长Park Taehwan表示:“下一代AI模型可以把从漏洞探测到攻击场景生成的一系列过程实现自动化。尤其是当未知漏洞(零日漏洞)的挖掘与攻击代码生成相结合时,攻击的速度和规模都可能同时扩大。”他强调说:“为应对AI威胁,首先要对企业IT环境进行前瞻性检查。应以传统系统、老旧软件、年代久远的开源组件等易于累积脆弱点的领域为中心,开展全面的脆弱点排查。”


专家一致认为,官民双方应进一步提高安全警戒心,持续监测韩国互联网振兴院(KISA)等相关机构提供的安全指南和建议事项,及时完善应对体系,这一点至关重要。


首尔女子大学信息保护学部教授Kim Myeongju表示:“Mythos在无人介入的情况下,利用其自行发现的漏洞生成代码并自行执行,可能对企业构成安全威胁。AI可以独自学习数百名黑客积累的知识,并在短时间内发起攻击,从而在此前被认为安全的部分也发现新的脆弱点。”她担忧地指出:“政府应通过进一步强化软件漏洞排查来应对,一旦发生AI黑客攻击,有必要与业界积极沟通并及时通报。同时,还需加强相关测试,以确认AI是否存在被恶意利用的‘两用’可能性。”


顺天乡大学信息保护学科教授Yeom Heungryul表示:“必须在国家层面建立治理体系并予以应对。对政府而言,客观掌握Mythos的真实面貌和能力十分重要;根据Mythos的能力,产业界则应对自身的应对方法进行高度化或调整。”



高丽大学类人启发AI研究院教授Choi Byungho补充说:“必须从国家安全到社会基础设施、企业安全,全面构建AI基础治理体系。要尽快建立以AI攻防AI的治理机制,由AI替代人类分析攻击信号并即时防御,找到这样的应对路径。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点