'미녀 정치인' 믿었는데 사람이 아니었다…日 정당 발칵 뒤집은 AI 계정

성폭력 피해·임신·출산·육아까지 '가짜 인생'
실제 운영자는 입헌민주당 남성 당원

인공지능(AI)으로 만든 가상의 여성을 실제 정치인처럼 꾸며 사회관계망서비스(SNS)에서 정치 활동을 벌인 일본 남성 정당원이 논란에 휩싸였다. 단순히 얼굴만 AI로 만든 것을 넘어 성폭력 피해와 임신, 출산, 가족관계까지 허구의 삶을 만들어낸 것으로 드러나 충격을 주고 있다. 특히 최근 미국에서도 AI로 만들어진 가상의 미군 여성이 정치적 메시지를 앞세워 100만명이 넘는 팔로워를 끌어모은 사례가 등장한 만큼 생성형 AI를 이용한 '가짜 인물'이 정치와 여론 형성에 악용될 수 있다는 우려가 커지고 있다.

상의 여성 정치인 '나카무라 리호'의 소셜미디어의 소개 문구. 현재 해당 계정은 정지된 상태다. SNS

25일 연합뉴스는 일본 ANN 뉴스 등을 인용해 소셜미디어에서 '나카무라 리호@입헌민주당'이라는 이름으로 활동해 온 계정의 여성은 실제로 존재하지 않는 인물로 확인돼 현지서 논란이 일고 있다고 소개했다. 무엇보다 해당 계정은 거리에서 정치 활동을 벌이거나 아이를 업고 있는 모습 등을 주로 공유했지만 모두 AI로 만들어진 이미지였다. 아울러 계정 소개에는 "성폭력으로 인한 임신과 출산 경험을 살려 여성이 안심하고 살아갈 수 있는 사회를 목표로 한다"는 내용이 적혀 있었다.

성폭력 피해·임신·출산·육아까지 '가짜 인생' 만들어 SNS서 정치 활동

AI로 만들어진 것은 사진뿐만이 아니었다. '나카무라 리호'라는 인물의 과거와 가족, 출산 과정까지 구체적인 이야기가 만들어졌다. 게시글에는 "5월 2일 오전 2시30분 3620g의 여자아이를 출산했다"는 내용이 올라왔고, 향후 정치 도전을 암시하며 "2년 뒤 아버지가 현직 장관을 39표 차이까지 추격했던 지역에서 도전하겠다"고 적기도 했다. 실재하지 않는 여성에게 출생과 가족사, 정치적 배경까지 부여한 셈이다.

ANN 뉴스 취재 결과 계정을 운영한 사람은 도치기현 입헌민주당 소속의 남성 당원이었다. 해당 남성은 취재진에게 "제가 AI로 만들었다. 경솔했다. 반성하고 있다"고 인정했다. 가상의 여성으로 활동한 이유에 대해서는 "남성으로는 인기가 없기 때문에 여성으로 인기를 얻으려고 했다"고 설명했다. 입헌민주당도 즉각 문제를 제기했다. 다나부 마사요 입헌민주당 간사장은 "홍보 담당자로부터 보고받았다"며 AI 활용이 정치적·윤리적으로 어떤 문제를 일으키는지 검토해 대응하겠다는 뜻을 밝혔다.

당은 별도 입장을 통해 "생성형 AI로 만들어진 가상의 캐릭터가 실제 정당 이름을 사용해 게시물을 올리는 것은 거짓 정보를 확산시키는 것으로 민주주의를 왜곡하는 결과로 이어질 수 있어 있어서는 안 된다"고 지적했다. 당은 도치기현 지부를 통해 해당 남성에게 당명 사용 중단과 AI 이미지를 활용한 허위 정보 게시 중단을 요구했다. 현재 해당 X 계정은 정지된 상태다.

100만명이 믿은 '미 여군'도 AI

AI로 만들어진 여성이 실제 정치·사회적 인물처럼 활동하며 대규모 팔로워를 끌어모은 사례는 이번이 처음이 아니다. 지난 3월께 미국에서는 '제시카 포스터(Jessica Foster)'라는 이름의 금발 미군 여성이 화제가 됐다. 그의 SNS에는 미군 전투복을 입고 F-22 랩터 전투기 앞에 서거나 도널드 트럼프 미국 대통령과 함께 이동하는 모습 등이 잇따라 올라왔다. '아메리카 퍼스트'를 내세우며 트럼프 대통령을 지지하는 정치적 콘텐츠도 활발하게 게시했다.

AI 논란을 일으켰던 '제시카 포스터(Jessica Foster)'. SNS

팔로워들은 그를 실제 미군으로 믿고 "복무해 줘서 감사하다"는 댓글을 달았다. 계정은 활동을 시작한 지 약 4개월 만에 팔로워 100만명을 넘어섰다. 하지만 '제시카 포스터' 역시 현실에 존재하지 않았다. 워싱턴포스트는 미군 복무 기록에서 포스터라는 인물을 확인할 수 없었고, 계정에 올라온 사진 곳곳에서 AI 생성 흔적이 발견됐다고 보도했다.

전투복 명찰에 미군 관행과 달리 성인 'Foster'가 아닌 이름인 'Jessica'가 적혀 있거나, 트럼프 대통령이 참여한 'Board of Peace'를 'Border of Peace'로 잘못 표시하는 등 AI 특유의 오류도 발견됐다. 계정은 정치적 메시지를 통해 확보한 이용자들을 유료 성인 콘텐츠 플랫폼으로 유도해 수익화한 것으로 전해졌다. 논란 이후 메타는 해당 인스타그램 계정을 삭제했다.

日, 선거 AI 콘텐츠에 'AI 표시' 의무화

이 가운데 정치적 지지 확보에서 전쟁 관련 여론 조작, 연애·금전 목적의 사기까지 AI로 만들어진 '가짜 여성'의 활용 범위가 넓어지고 있다. 특히 이번 일본 사건은 AI를 활용한 정치 콘텐츠에 대한 규제가 강화되는 가운데 발생했다는 점에서도 파장이 커지고 있다. 일본 의회는 지난 7월 13일 개정 공직선거법 등을 통과시켰다.

개정법에는 선거운동 등을 목적으로 인터넷에 게시하는 이미지나 영상 가운데 생성형 AI로 제작·변형돼 실제 촬영물로 오인될 가능성이 있는 경우 AI 사용 사실을 표시하도록 하는 내용이 담겼다. 새 규정은 2027년 3월부터 시행될 예정이다.

AI 기술이 고도화되면서 허구의 인물에게 외모뿐 아니라 이름과 직업, 가족, 과거 경험과 정치적 신념까지 부여하는 것이 가능해졌다. 특히 SNS 이용자가 이를 실제 인물로 받아들이고 정치적 메시지에 영향을 받을 경우 단순한 '가짜 사진'을 넘어 여론 형성 자체를 왜곡할 수 있다는 우려도 나온다.

방제일 기자 zeilism@asiae.co.kr