'보안 위협'은 해킹 뿐?…"물리적 기술탈취가 복병 될 수도"
전통적 해킹 없이 물리적 환경에서도 손쉽게 정보를 빼낼 수 있는 새로운 보안 위협 가능성이 제기됐다. 이를 고려할 때 사이버상에서는 물론 물리적 대응을 병행하는 것이 중요하다는 전문가 제언이 나왔다.
KAIST는 전산학부 한준 교수 연구팀과 싱가포르국립대·중국 저장대가 공동연구를 진행해 소형 안테나만으로 원거리에서 인공지능(AI) 모델 구조를 탈취할 수 있는 공격 시스템 '모델스파이(ModelSpy)'를 개발, 시연을 통해 물리적 환경에서의 보안 위협 가능성을 입증했다고 31일 밝혔다.
공동연구팀이 개발한 모델스파이의 핵심 기능은 흡사 도청 장치처럼 AI가 작동할 때 발생하는 미세 신호를 포착해 내부 구조를 분석하는 것에 맞춰졌다.
미세신호는 AI의 연산을 담당하는 그래픽 처리 장치(GPU)에서 발생하는 전자기파를 말한다. 공동연구팀은 AI 연산을 담당하는 GPU에서 발생하는 전자기파의 패턴을 분석해 모델의 층 구성과 세부 설정값을 복원하는 데 성공했다.
최근 GPU 5종을 대상으로 실험했을 때 모델스파이는 벽 너머 또는 최대 6m 거리에서도 AI 모델의 구조를 비교적 높은 정확도로 파악했다. 딥러닝 모델의 핵심 구조인 레이어는 최대 97.6%의 정확도로 추정했다.
이는 기존 해킹처럼 서버에 직접 침투하거나 악성코드를 설치할 필요 없이 가방에 넣을 수 있는 소형 안테나만으로도 공격이 가능하다는 것을 입증한다. 사이버상의 해킹이 아닌 물리적 상황에서도 보안에 큰 위협을 가할 수 있다는 의미다.
공동연구팀은 이러한 기술이 현실에서 실제 악용될 경우 기업의 핵심 AI 자산이 외부로 유출될 수 있다고 판단해 전자기파 교란과 연산 난독화 등 대응 기술을 함께 제시했다. 단순한 공격 시연을 넘어 현실적인 방어 방안을 제안한 것이다.
한 교수는 "이번 연구는 AI 시스템이 물리적 환경에서 기존 방식(해킹)과 다른 보안 위협에 노출될 수 있음을 입증한 사례"라며 "이는 자율주행이나 국가 기반 시설 등 중요 AI 인프라를 보호하기 위해선 하드웨어와 소프트웨어를 아우르는 '사이버-물리 보안' 체계를 동시 구축하는 것이 중요하다는 점을 시사한다"고 말했다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
한편 이번 연구는 KAIST 전산학부 한준 교수가 공동 교신저자로 참여했다. 연구 성과는 컴퓨터 보안 분야 국제 학술대회 'NDSS(Network and Distributed System Security Symposium) 2026'에서 발표, 연구의 혁신성을 인정받아 최우수 논문에 선정됐다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>