"남에게 말 못 할 비밀 다 털어놨는데 큰일"…챗GPT 대화 삭제의 '반전'

대화창에서 지워도 서버·백업에 정보 잔존
최대 7년 보관…사실상 완전 삭제 불가능
기업 승인 없는 '섀도 AI'…보안 관리 우려

생성형 인공지능(AI) 대화창에 회사 내부 기밀이나 보안 문서, 개인정보 등을 입력했다가 뒤늦게 대화 기록을 삭제하는 사람이 많다. 하지만 눈앞의 화면에서 대화 내용이 사라졌다고 해서 해당 데이터가 완전히 소멸했다고 믿는 것은 위험천만한 착각이다. AI 기업의 백업 시스템과 서버 로그에는 관련 기록이 여전히 보존될 수 있을 뿐만 아니라, 이미 AI 알고리즘 학습에 반영된 정보는 기술적 한계로 인해 사실상 파기가 불가능하기 때문이다.

AI로 생성한 이미지로 해당 기사와 직접적인 관련 없음. ChatGPT

대화창 지워도 서버·학습망에 잔존…보안 사고 '폭증'

글로벌 시장조사업체 가트너(Gartner)는 최근 발간한 '섀도 AI 데이터 유출에 신속히 대응하라' 보고서를 통해 기업 임직원들이 보안 승인을 거치지 않고 개인 계정으로 업무에 사용하는 이른바 '섀도 AI'가 심각한 보안 위협으로 부상했다고 경고했다.

직원이 회사 PC를 이용하더라도 개인 AI 계정으로 접속할 경우 기업용 데이터 보호 조치가 적용되지 않아 기밀이 무방비로 외부 서버에 수집된다는 점이 핵심 문제로 지적된다.

실제로 AI 관련 데이터 유출 사고는 급증하는 추세다. 가트너가 인용한 IBM 보고서(2025년 3월~2026년 2월 기준)에 따르면 전체 데이터 유출 보안 사고 중 섀도 AI가 연관된 비중은 전년 대비 2배 이상 늘어난 43%에 달했다. 이들 사고의 건당 평균 피해 비용 역시 539만달러(약 72억원)에 달했으며 절반 가까운 사건에서 심각한 내부 정보 침해가 발생한 것으로 집계됐다.

안전성 검토 시스템엔 최대 7년 보관… '기계 망각' 기술 한계

가트너가 분석한 데이터 보관 메커니즘에 따르면 대화 기록과 서버 요청·응답 로그는 사용자가 삭제 버튼을 누른 후에도 기본적으로 약 30일간 보존된다. 특히 AI 시스템이 부적절하거나 위험한 내용으로 분류한 데이터는 안전성 검토 목적으로 2년에서 최대 7년 동안 별도 저장소에 남는다. AI 학습용으로 수집된 정보 역시 최대 5년까지 보관 기간이 늘어난다.

가장 치명적인 문제는 AI 모델 자체의 학습 특성이다. 입력된 데이터가 AI 모델을 재학습시키는 매개변수에 통계적 형태로 귀속되면 원본 파일을 지우더라도 학습 결과물에서 해당 정보의 영향력만 쏙 빼내는 것은 기술적으로 매우 어렵다. 특정 데이터만 골라 삭제하는 '머신 언러닝' 기술이 아직 연구 단계에 머물러 있는 데다, 거대 AI 모델을 처음부터 다시 학습시키는 데는 막대한 비용이 소요되어 실질적인 대안이 되기 힘들기 때문이다.

전문가들은 정보 유출 사실을 인지하는 즉시 AI 서비스의 '학습 활용(Data Training)' 기능부터 차단하고 노출된 비밀번호나 인증 정보를 즉시 교체해야 한다고 당부한다. 화면상 삭제에 안주하지 않고 해당 서비스의 서버 저장 위치와 보관 기간을 확인해 실제 삭제 여부까지 검증하는 체계적인 보안 관리가 필요하다.

서지영 기자 zo2zo2zo2@asiae.co.kr