精准攻击人工智能决策漏洞
证明白帽黑客组织EQST实力
SK Shieldus于15日表示,在全球人工智能红队黑客大赛“Judgement Day(审判日)”中,旗下白帽黑客组织EQST所属高级研究员Kim Byeonghyeon获得最终第一名。
本次大赛由人工智能安全专业初创企业AIM Intelligence与人工智能安全研究所共同主办,自今年4月6日起进行了约8周,重点评估诱导人工智能代理执行被禁止行为或遗漏必要安全措施的攻击技术。
大赛由8个反映真实产业环境的场景组成,包括▲急诊患者分诊错误 ▲水坝水位判断扭曲 ▲未能发现飞机异常征兆等。Kim Byeonghyeon通过利用图像、语音、视频等多种输入形式的“多模态提示注入”攻击,干扰人工智能判断并取得最高成绩。例如,在图像内部隐藏诱导错误行为的语句,或以强制特定行为的方式,诱导人工智能不遵循既有规则。
EQST所属高级研究员Ma Junyeong和Kim Sinu此次也分别获得第5名和第7名。EQST在Pwn2Own Automotive、Black Hat、DEF CON、Dreamhack黑客防御大赛等海内外主要安全赛事中持续取得成绩,证明了其作为全球水平白帽黑客组织的竞争力。
SK Shieldus网络安全部门负责人、副社长Kim Byeongmu表示:“随着生成式人工智能向各产业全面扩散,人工智能安全正从可选项变为必备能力。”他还称:“SK Shieldus将以此次大赛中验证的人工智能红队能力为基础,积极支持客户安全、可靠地运用人工智能。”
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。