李대통령 "딥페이크 표시 없으면 '진짜 증거'처럼 작동…유통 단계도 규제해야"

李대통령, 부처별 업무보고 주재
실존 인물 변형한 AI 생성물은 가시적 표시 의무
"표시 훼손·삭제한 유포자는 규제 밖…대비책 마련해야"
글로벌 플랫폼 2차 가해에도 "막을 방안 찾아야"

이재명 대통령은 16일 실제 인물과 구별하기 어려운 딥페이크 영상과 이미지가 별도 표시 없이 유통될 경우 사실을 입증하는 증거처럼 받아들여질 수 있다며 제작 단계뿐 아니라 유통 단계까지 규제를 강화해야 한다고 주문했다.

이재명 대통령이 16일 청와대 영빈관에서 열린 부처 업무보고에서 참석 기관장의 답변을 청취하고 있다. 2026.7.16 [청와대통신사진기자단] 연합뉴스

이 대통령은 이날 청와대 영빈관에서 열린 방송미디어통신위원회 업무보고에서 "요즘은 인공지능 창작물인지 실제 상황인지 구분하기 어려울 정도로 실제 영상과 유사하다"며 "표시를 안 해주면 사람들에게 일종의 증거로 작동한다. '이거 진짜네'라고 생각하게 된다"고 말했다.

이어 "표시가 없으면 심각한 오해를 유발할 수 있고, 악용되면 정말 심각하다"며 "인공지능 창작물이 가진 위험성이 이미 현실화하고 있는 만큼 대비책이 있어야 한다"고 강조했다.

현행 인공지능기본법에 따르면 생성형 AI로 만든 영상과 이미지는 AI 생성물이라는 사실을 표시해야 한다. 특히 실존하는 사람이나 실제 현상을 AI로 변형한 딥페이크는 이용자가 즉시 알아볼 수 있도록 가시적으로 표시해야 한다. 표시 의무를 위반할 경우 3000만원 이하의 과태료를 부과할 수 있지만, 관련 제재 규정은 현재 1년간 유예된 상태다.

이 대통령은 딥페이크의 제도적 정의와 적용 범위도 구체적으로 따져 물었다. 정부 측은 실존 인물이나 실제 현상을 원형과 다르게 변형한 AI 생성물을 딥페이크로 해석하고 있으며, 순수한 영화·예술 창작물과는 구분한다고 보고했다.

이 대통령은 특정 여성의 얼굴이나 신체를 음란물 등에 합성하는 사례를 거론하며 "표시하지 않으면 일반 형법 등에 따른 처벌과 별개로 AI 관련 법 규정상 제재 대상이지만, 지금은 제재가 유예돼 있고 과태료도 3000만원 이하"라고 지적했다.

특히 현행법이 AI 모델 개발 사업자와 이용 사업자에게만 표시 의무를 부과하고, 생성물의 표시를 지우거나 일부를 잘라 재유통하는 일반 유포자는 직접 규제하지 못한다는 점을 문제 삼았다.

이 대통령은 "AI 표시가 된 영상에서 표시가 없는 부분만 잘라 쓰는 사람에게는 표시 의무가 없는 것이냐"고 물었고, 정부 관계자는 "현행 인공지능기본법상 유포자나 유튜브 등에서 활용하는 개인은 규제 대상이 아니다"라고 답했다.

방미통위가 표시를 훼손하거나 삭제한 유포자도 규제하는 법안이 국회에 제안돼 있다고 설명하자 이 대통령은 "국회에서 어떻게 되는지 보고 있겠다고 하면 안 된다"며 "기관이 방향을 명확히 정하고 협력을 구해야 한다"고 주문했다.

제작자가 표시를 붙이더라도 유통 과정에서 이를 삭제하거나 편집하면 사실상 규제가 무력화될 수 있는 만큼 정부가 유통 단계의 책임까지 제도화해야 한다는 취지다.

딥페이크 피해 게시물이 글로벌 플랫폼에서 반복적으로 유통되는 문제도 도마 위에 올랐다. 국민참여단은 포털과 유튜브, 엑스 등에서 딥페이크 피해자를 겨냥한 2차 가해가 계속되지만 신고가 실제 삭제로 이어지는 경우는 극히 적다며 실효적인 신고·구제 체계가 필요하다고 제안했다.

이 대통령은 국내 포털의 경우 당사자가 명예훼손이나 권리 침해를 신고하면 게시물을 우선 차단한 뒤 이의신청 절차를 거치지만, 해외 플랫폼은 본인 확인과 삭제 조치가 제대로 이뤄지지 않는다고 지적했다.

방미통위가 통상 문제와 기술적 우회, 예산 부족 등을 들어 글로벌 플랫폼 규제의 현실적 한계를 설명하자 이 대통령은 "그렇다고 방치할 수는 없다"며 "현장에서는 엄청난 피해가 발생하고 있다"고 말했다.

이어 "이래서, 저래서 안 된다는 설명은 별로 의미가 없다"며 "어떻게 하면 막을 수 있을지, 피해를 최소화할 수 있을지를 고민하는 것이 정부의 의무"라고 강조했다.

16일 청와대 영빈관에서 이재명 대통령 주재로 열린 부처 업무보고에서 국민참여단이 손을 들고 발언권을 요청하고 있다. 2026.7.16 [청와대통신사진기자단] 연합뉴스

방미통위는 디지털 성범죄 피해 통합지원단과 AI 범죄 대응 범부처 협의체를 운영하고 있다며 글로벌 플랫폼의 불법·유해정보 유통에 대한 대응 방안을 강화하겠다고 밝혔다.

임철영 기자 cylim@asiae.co.kr