지운 개인정보 다시 못 살린다… UNIST, 'AI 기억 지우개' 스포터 개발
정상 정보 보존, 삭제 정보 복구 막는 머신 언러닝 기술 개발
재학습 공격에 인식 정확도 0.24%로 억제, ICML 2026 채택
삭제 요청을 받아 지운 줄 알았던 AI 속 개인정보가 사진 몇 장으로 손쉽게 복구될 수 있다는 사실이 드러났다.
국내 연구진이 이러한 AI의 '재학습 취약성'을 완벽히 차단하는 신기술을 세계 최초로 선보였다.
AI가 민감한 개인정보나 저작권 데이터를 지우는 '머신 언러닝' 기술은 최근 빅테크 기업들의 필수가 됐다. 하지만 기존 기술에는 치명적인 약점이 있었다. 데이터를 지운 뒤에도 AI 내부에는 삭제된 정보의 특징이 식별 가능한 형태로 남아있었다.
실제 기존 기술로 데이터를 지운 AI에 관련 사진 5장을 다시 입력하자, 불과 수 초 만에 삭제된 정보의 recognition(인식) 능력이 71.10%에서 최대 99.98%까지 다시 살아났다. 지웠다고 믿었던 개인정보가 사실상 무방비로 노출돼 있었던 것이다. 이와 함께 지우지 말아야 할 유사 데이터의 정확도까지 떨어지는 '바보화' 현상도 발생했다.
UNIST 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 이 문제를 완벽히 해결한 '스포터(Spotter)'를 개발했다고 전했다.
스포터는 삭제 대상의 공통점을 추적해 지우면서도, 닮은꼴 정상 데이터의 기준은 건드리지 않는다.
연구팀이 고난도 공격 실험을 진행한 결과, 스포터는 삭제 대상의 정확도를 0%로 떨어뜨린 뒤, 사진을 통한 재학습 공격을 퍼부어도 정확도를 0.24%로 완전 봉쇄했다. 동시에 지우지 않은 나머지 정보의 인식 성능은 99.96%라는 완벽에 가까운 수치를 보존했다.
연구팀은 이번 기술이 별도의 대대적인 개편 없이 기존 AI에 꽂아 쓰는 '플러그인(Plug-and-play)' 방식이라는 점에 주목했다. 얼굴 인식 서비스나 유해 콘텐츠 필터링 등 보안이 핵심인 AI 현장에 즉시 투입 가능하다.
연구진은 "그동안 AI 언러닝 평가가 전체 평균 정확도만 따지다 보니 섬세한 보안 구멍을 놓치고 있었다"며 "스포터는 개인정보 보호가 필수적인 초거대 AI 시대의 핵심 안전장치가 될 것"이라고 강조했다.
예를 들어 '고양이'를 삭제했다면, 이와 유사한 호랑이나 표범의 인식 정확도가 떨어질 수 있고, 고양이를 인식하는 데 필요했던 개별 정보가 식별 가능한 군집 형태로 남아 있어 고양이 사진 몇 장만 다시 넣어주면 고양이를 판별하는 능력을 되살릴 수 있는 것이다.
제1저자인 하승범 연구원은 "기존에는 AI가 삭제 대상을 더 이상 알아보지 못하는지와, 삭제하지 않은 나머지 정보의 전체 평균 인식 성능이 유지되는지만 주로 평가했기 때문에 삭제 대상과 닮은 일부 정보를 인식하는 성능 저하나, 지운 정보가 다시 살아나는 것과 같은 사각지대가 잘 드러나지 않았었다"라고 설명했다.
CIFAR-10 데이터셋으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄으며, 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다. 반면 기존 언러닝 기술은 사진 5장을 이용한 재학습 공격 뒤 삭제 대상에 대한 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났다. 또 스포터는 삭제하지 않은 나머지 범주에 대해 인식 정확도 99.96%를 유지했다.
소형 이미지 데이터셋인 CIFAR-10뿐만 아니라, 더 큰 이미지 데이터셋인 타이니이미지넷과 실제 얼굴 인식 데이터셋인 CASIA-WebFace에서도 유사한 성능을 확인했다.
공동 연구팀은 "언러닝 기술의 사각지대를 보완하기 위해 개발된 스포터는 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인(plug-and-play) 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용될 수 있을 것"이라고 기대했다.
이번 연구는 인공지능 분야 세계 최고 권위의 국제학술대회인 국제머신러닝학회(International Conference on Machine Learning, ICML)에 채택됐다. 2026 ICML은 지난 7월 6일부터 11일까지 서울에서 열렸다.
연구 수행은 과기정통부・한국연구재단(NRF)의 지원을 받는 '중견연구사업'과 과기정통부・정보통신기획평가원의 지원을 받는 '초거대산업AI연구지원(R&D)사업', '인공지능대학원지원사업', 'AI 스타펠로우십사업', '지역지능화혁신인재양성사업', '대학ICT연구센터사업'의 지원을 받아 수행됐다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>