SK쉴더스, AI 해킹대회 '심판의 날' 1위
AI 의사결정 취약점 정밀 공략
화이트해커 그룹 EQST 역량 입증
SK쉴더스는 글로벌 인공지능(AI) 레드팀 해킹대회 'Judgement Day(심판의 날)'에서 자사 화이트해커 그룹 EQST(이큐스트) 소속 김병현 선임이 최종 1위를 차지했다고 15일 밝혔다.
AI 안전성 전문 스타트업 에임인텔리전스와 인공지능안전연구소가 공동 주최한 이번 대회는 지난 4월 6일부터 약 8주간 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 데 초점을 맞춰 진행됐다.
대회는 ▲응급환자 분류 오류 ▲댐 수위 판단 왜곡 ▲항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성됐다. 김병현 선임은 이미지·음성·영상 등 다양한 형태의 입력을 활용하는 '멀티모달 프롬프트 인젝션' 공격으로 AI의 판단을 교란하며 최고 성적을 거뒀다. 예를 들어 이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 특정 행위를 강요하는 방식으로 AI가 기존 규칙을 따르지 않도록 유도했다.
EQST 소속 마준영 선임과 김신우 선임도 이번 대회에서 각각 5위와 7위를 기록했다. EQST는 폰투온 오토모티브(Pwn2Own Automotive), 블랙햇(Black Hat), 데프콘(DEF CON), 드림핵 해킹방어대회(Dreamhack) 등 국내외 주요 보안 대회에서 꾸준히 성과를 내며 글로벌 수준의 화이트해커 조직으로서 경쟁력을 입증해왔다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
김병무 SK쉴더스 사이버보안부문장(부사장)은 "생성형 AI가 산업 전반으로 확산되면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다"며 "SK쉴더스는 이번 대회에서 검증한 AI 레드팀 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 적극 지원할 것"이라고 말했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>