[AI 콘텐츠 명암]③쉬워진 AI 제작 못따라가는 제도들…국회에 줄줄이 심사대기

AI기본법 워터마크 의무, 범위·책임 모호
워터마크 훼손 제재·얼굴 도용 방지 논의
"빨라지는 기술 활용에 제도적 보완 필요"

편집자주카메라 앞에 선 사람 없이도 인공지능(AI) 배우가 탄생하고, 실존하지 않는 인플루언서가 사회관계망서비스(SNS)에서 주목받는다. AI가 콘텐츠 제작 문턱을 낮추면서 소규모 제작자에게 새로운 기회를 열었다. 전문 장비나 큰 예산 없이도 콘텐츠를 제작하는 환경이 만들어진 동시에 타인의 얼굴과 목소리, 작품을 무단으로 활용할 위험도 커졌다. 아시아경제는 AI로 인한 콘텐츠 시장의 변화를 살피고, 기술의 가능성과 사람의 권리가 공존할 방안을 살펴본다.

인공지능(AI)이 콘텐츠 제작에 활용되고 있지만 AI생성물의 표시 의무를 강화하고 사람의 얼굴 도용 방지를 보완하는 법안들은 국회 심사 단계에 머물러 있다. 전문가들은 어느 정도로 AI를 활용했을 때 표시 의무를 부과해야하는지 세부 기준을 구체화하고 다양한 제작·재가공 방식에 대응할 수 있도록 가이드라인과 자율규제를 병행해야 한다고 제언했다.

17일 국회 의안정보시스템에 따르면 AI생성물의 표시 기준과 의무 주체를 구체화하는 AI기본법 개정안과 표시 훼손을 금지하고 플랫폼의 관리 책임을 강화하는 정보통신망법 개정안 등이 발의돼 있지만 심사 문턱을 넘지 못했다. 과학기술정보방송통신위원회 법안심사소위원회는 지난달 15일 관련 개정안들을 논의했으나 추가 검토가 필요하다고 판단해 계속 심사하기로 했다.

올해 1월 시행된 AI기본법의 제31조는 생성형 AI나 이를 활용한 제품·서비스를 제공하는 인공지능사업자가 결과물이 AI로 만들어졌다는 사실을 표시하도록 규정한다. 하지만 표시 의무의 범위와 대상 등이 모호해 현실에서는 일률적으로 적용하기 어렵다는 한계가 있었다. 콘텐츠 전체를 AI로 만든 경우와 AI결과물을 일부 재가공한 경우를 어떻게 표시할지가 대표적이다. AI를 개발한 기업과 이를 활용해 서비스를 제공하는 기업의 역할이 다른데도 같은 표시 의무를 부과해 책임 이행 방식이 모호하다는 지적도 나온다.

이에 따라 발의된 개정안들은 표시 방법과 책임 주체를 나눠 규제하는 방식으로 기준을 구체화하고 있다. 김대식 의원안은 결과물 자체에 코드, 문자 등의 워터마크를 넣도록 하고, 이를 훼손·위작·변작하면 형사처벌하도록 했다. 김우영 의원안은 배경 생성이나 색 보정 등 AI를 보조도구로 활용하는 경우를 예외로 두고 창작물의 표시 기준을 명확히 하는 방향이다. 안철수 의원안은 AI개발사업자와 이용사업자의 역할에 따라 기계 판독형 표시와 이용자 인식용 표시 책임을 나누도록 했다. 조인철·박충권 의원의 정보통신망법 개정안은 제작자뿐 아니라 유통 플랫폼에도 표시 지원과 훼손 방지를 위한 기술적·관리적 조치를 요구한다.

AI콘텐츠 제작에 쓰이는 얼굴·목소리의 무단 활용을 제한하는 법안도 추진 중이다. 김성원 의원은 부정경쟁방지법 개정안을 통해 성명·초상·음성 등의 디지털 레플리카를 보호 대상으로 명확히 규정하려고 한다. 김재원 의원의 대중문화예술산업발전법 개정안은 특정 대중문화예술인의 얼굴·음성·말투·동작 등을 재현한 디지털 모사물을 동의 없이 상업적 광고·홍보에 이용하는 행위를 제한하고, 모사물 활용 사실을 표시하도록 했다.

AI 콘텐츠 문제는 끊임없는 재가공…"기술 발전에 제도가 못 따라가"

미국 디지털 마케팅업체 퍼스트페이지세이지가 공개한 플랫폼별 AI 콘텐츠 점유율 변화. 2021년부터 2026년까지 주요 SNS 플랫폼에서 AI 콘텐츠 점유율은 꾸준히 높아지는 추세를 보였다.

전문가들도 AI의 활용 범위와 제작 과정에 따른 구체적인 판단 기준이 필요하다고 봤다.

이용민 법무법인 율촌 변호사는 "콘텐츠의 일부분을 외주로 만들었다면 이를 받아 사용하는 쪽에서도 표시해야 하느냐는 문제가 생긴다"며 "제작 과정별로 어느 정도까지 AI를 활용했는지 기준을 명확히 수립해야 한다"고 말했다.

박형준 성균관대 행정학과 교수는 "AI 콘텐츠의 문제는 재가공이 끊임없이 이뤄진다는 점"이라며 "AI생성물의 일부를 발췌해 재사용하는 경우 표시 의무를 판단하기 어려운 상황"이라고 설명했다. 이어 "모든 생성물을 법으로 규정하기에는 한계가 있으므로 가이드라인을 제시하는 자율규제 형태로 보완이 필요하다"고 덧붙였다.

이은서 기자 libro@asiae.co.kr