"알람도 안 오는데 내 인스타 사진으로 뭘한거야"…난리 나자 메타가 급정지한 기능

인스타 공개 사진 기반 AI 생성 기능 '뮤즈이미지'
개인정보 침해 논란 커지자 3일 만에 철회 결정

메타가 고작 사흘 만에 인스타그램의 공개 사진을 활용해 인공지능(AI) 이미지를 만드는 기능을 중단하겠다고 발표했다.

지난 10일(현지시간) 메타는 공식 블로그를 통해 AI 이미지 생성 기능 가운데 하나인 '인스타그램 계정 언급(@·멘션)' 서비스를 더는 제공하지 않는다고 밝혔다. 이는 메타 AI 애플리케이션(앱)에서 특정 인스타그램 공개 계정을 태그하면 해당 계정에 올라온 사진을 바탕으로 AI를 활용해 새로운 이미지가 생성되는 기능이다.

하지만 지난 7일 이 신기능이 공개되자마자 거센 비판이 일었다. 공개 계정을 가진 성인 이용자라면 누구나 자신의 사진이 AI 생성에 무단으로 활용될 수 있기 때문이다. 심지어 이 기능에 내 계정이 활용될 수 있다는 부분에 이용자가 동의(선택)해야 기능이 활성화되는 '옵트인(사전동의)' 방식이 아니라 모든 이용자가 일괄적으로 해당 기능에 노출되고 이를 막으려면 따로 설정을 꺼야 하는 '옵트아웃(사후거부)' 방식으로 서비스가 이뤄진 것도 문제라는 지적이 나왔다.

또 자신의 사진이 다른 사람의 AI 이미지 제작에 사용돼도 당사자에게는 아무런 알람이 가지 않았다. 이 때문에 디지털 성범죄나 명의도용 등 심각한 개인정보 침해를 유발할 수 있다는 우려의 목소리가 커졌다.

미국배우조합(SAG-AFTRA)에서도 반발이 터져 나왔다. 조합은 "명확한 사전 동의가 없는 방식은 비동의 디지털 복제물의 위험성을 과소평가한 오판이며 내재된 명백한 위험과 피해에 대한 대중의 정서를 완전히 잘못 판단한 것"이라고 강하게 비판했다.

메타는 "해당 기능을 통해 사용자에게 유용한 창작 도구를 제공하고 자신의 공개 콘텐츠가 참조되는 방식에 대해 사용자가 직접 통제권을 갖게 하려는 의도였다"면서 "다만 출시 직후 이 기능이 이용자의 기대에 부합하지 못했고, 운영 과정에서 다양한 우려가 제기됨에 따라 신속하게 서비스를 종료하기로 결정했다"라고 설명했다.

한편 실제로 AI가 널리 활용된 뒤부터 실존 인물에 대한 AI 수정 기능은 명예훼손성 사진이나 성적 괴롭힘 등으로 오용되는 사례가 여러 차례 있었다.

구나리 기자 forsythia26@asiae.co.kr