AI 생성물, 언제·어떻게 표시해야 하나…정부 기준 나왔다

서비스 내부는 유연하게, 외부 반출·딥페이크는 명확 표시 의무
AI기본법 투명성 조항 세부 기준 제시…기업 부담은 차등 적용

AI로 만들어진 콘텐츠는 서비스 안에서 쓰일 때와 외부로 공유될 때 표시 기준이 달라진다. 특히 딥페이크처럼 사회적 혼란 우려가 큰 생성물에는 사람이 명확히 인식할 수 있는 표시가 의무화된다.

과학기술정보통신부는 22일 시행되는 '인공지능(AI) 기본법'의 투명성 확보 의무를 구체화한 '인공지능 투명성 확보 가이드라인'을 통해 AI 생성물 표시 기준을 서비스 유형별로 명확히 했다.

'인공지능 투명성 확보 가이드라인'에 소개된 사례. 과기정통부 제공

과학기술정보통신부는 그간 법률·시행령만으로는 현장 적용이 어렵다는 업계 의견을 반영해 실제 운영 중인 AI 제품·서비스 유형을 기준으로 이행 방안을 정리했다고 설명했다. 투명성 조항은 최소 1년 이상의 계도기간이 적용돼, 이 기간 동안 사실조사와 과태료 부과는 유예된다.

가이드라인의 핵심은 차등 적용이다. AI 생성물이 챗봇, 게임, 메타버스 등 서비스 환경 내부에서만 이용되는 경우에는 UI 안내, 로고 표출 등 비교적 유연한 방식의 표시를 허용했다. 예컨대 대화형 서비스는 이용 전 고지나 화면 내 표식으로, 게임·메타버스는 로그인 시 안내나 캐릭터 표시 방식이 가능하다.

반면 AI 생성 결과물을 다운로드·공유하는 등 서비스 외부로 반출하는 경우에는 표시 기준이 강화된다. 텍스트·이미지·영상 등 생성물에 가시·가청적 워터마크 등 사람이 인식할 수 있는 방식을 적용하거나, 문구·음성 안내와 함께 메타데이터 등 기계 판독 방식을 병행하도록 했다. 실제와 구분하기 어려운 딥페이크 생성물은 예외 없이 사람이 명확히 인식할 수 있는 표시를 의무화했다.

투명성 확보 의무의 주체도 명확히 했다. 이용자에게 AI 제품·서비스를 직접 제공하는 '인공지능사업자'가 대상이며, 국내 이용자를 상대로 서비스를 제공하는 해외 사업자도 포함된다. 반면 AI를 업무나 창작의 도구로 사용하는 이용자는 의무 대상에서 제외된다.

과기정통부는 "AI 생성물 워터마크는 딥페이크 오용을 막기 위한 최소한의 안전장치이자 글로벌 추세"라며 "계도기간 동안 업계와 소통하며 가이드라인을 지속 보완·고도화해 제도가 현장에 안착하도록 지원하겠다"고 밝혔다. 가이드라인 전문은 과기정통부와 한국정보통신기술협회 홈페이지에서 확인할 수 있다.

김종화 기자 justin@asiae.co.kr