지브리처럼 바꿔달라 했더니 "위배" "제약"…챗GPT에 무슨 일?

챗GPT 이미지 자동 차단 메시지 떠
챗GPT 이미지 생성, 저작권 침해 논란도
영수증 얼룩·구김까지 완벽히 구현해

스튜디오 지브리와 디즈니 등 유명 애니메이션 스타일로 이미지를 변환해주는 챗GPT 기능이 인기다. 일각선 프로필 사진을 지브리 화풍으로 바꿔 사회관계망서비스(SNS)에 올리는 것이 유행처럼 번지고 있다. 이 가운데, 지브리 열풍을 몰고 온 오픈AI 챗GPT 이미지 생성 모델 사용이 더 엄격해졌다. 지난달 31일부터 오픈AI의 GPT-4o 기반의 이미지 생성 기능 시스템이 내부적으로 콘텐츠 정책 강화와 함께 사진 기반 이미지 생성 제한 기능이 훨씬 더 정교하고 엄격하게 적용하기 시작했다.

샘 알트만 오픈AI 최고경영자(CEO)도 자신의 프로필 사진을 '지브리풍 그림'으로 바꾸기도 했다. 샘 알트만 X(엑스)

오픈AI 내부에서 달리 이미지 생성 모델의 안전 필터 업데이트를 거쳐 특히 업로드된 사진을 기반으로 재해석하거나 변형하려는 요청에 대해 기계가 더 민감하게 '실제 인물의 재현 여부'를 판단한다. 이에 사진과 관련된 콘텐츠 정책을 더 엄격하게 집행하고, 챗GTP는 자동 판단에 따라 아예 생성 자체가 거부하고 있다.

실제로 일부 사용자의 요청에 "업로드된 사진을 기반으로 장면을 구성했다고 판단되어 자동으로 차단됐다"라는 메시지가 여럿 뜨고 있다. 이전처럼 "이 사진을 지브리 스타일로 바꿔줘"라는 요청은 차단되고, 사진 속 모습을 글로 상세히 구성해 요청해야 한다. 디즈니나 지브리 스타일, 슬램덩크나 픽사 스타일 등 다른 화풍도 마찬가지다. 아시아경제DB

실제로 일부 사용자의 "지브리 풍으로 바꿔줘"라고 요청에 "콘텐츠 정책에 위배된다"라거나 "시스템 제약으로 제공하기 어렵다" 등의 거부 메시지가 뜨고 있다. 예전과 같은 결과물을 얻기 위해서는 사진과 그림의 모습을 글로 상세히 구성해 요청해야 한다. 디즈니나 지브리, 슬램덩크나 픽사 등 다른 스타일의 그림도 마찬가지다.

여기에 유료로 챗GPT를 사용하는 이들은 '빠르고 끊김이 없는' 체험을 하고 있다는 후기가 많지만, 무료 사용자의 경우 거부당하거나 원하는 결과물을 얻기 힘들다는 반응이 나온다. 이는 챗GPT에 이미지 생성 요청이 몰릴 경우 GPU 자원을 유료 사용자에게 우선 할당하고 있기 때문이다. 오픈AI는 현재 유료 구독 서비스로 월 20달러(약 2만7000원)인 '챗GPT 플러스'와 200달러(약 27만원)인 '챗GPT 프로(Pro)'를 제공하고 있다. 적지 않은 가격이라 AI 접근성에 대한 격차가 심화할 수 있다는 우려도 나온다.

GPT-4o 기반의 이미지 생성 기능 전 세계서 인기 끌어

한편, GPT-4o 기반의 이미지 생성 기능은 25일 출시 직후 약 일주일간 일평균 이미지 생성량은 약 4억2000만 장에서 5억6000만 장에 달하는 등 큰 인기를 끌고 있다. 한국에서도 SNS와 카카오톡 프로필 사진이 모두 챗GPT 이미지화 사진으로 교체되는 등 붐이 일었다. 일본 애니메이션의 거장 미야자키 하야오 감독이 설립한 스튜디오 지브리의 따뜻하고 서정적인 화풍을 그대로 구현해 내는 게 신기하다는 반응이다.

이 가운데, 최근에는 챗GPT를 활용해 만든 '가짜 영수증' 이미지까지 등장하면서 AI 이미지가 허위 경비 청구나 환불 사기 등 범죄에 악용될 수 있다는 우려가 커지고 있다. 디디 다스 X(엑스)

심슨이나 디즈니 스타일도 그대로 구현해 주기도 한다. 다만 저작권 침해 우려도 일각선 나온다. 오픈 AI 측은 애니메이션 제작사와의 저작권 계약 여부를 명확히 밝히지 않고 있다. 어떤 이미지로 AI를 학습시켰는지 원작자의 동의를 받았는지도 공식적으로 밝혀진 바가 없다. 법조계에서도 제휴 없이 학습이 이뤄졌다면 저작권법 위반이 될 수 있다는 의견과 단순한 분위기만 구현한 거라면 문제가 되지 않는다는 의견 등 다양한 해석이 나온다.

이 가운데, 최근에는 챗GPT를 활용해 만든 '가짜 영수증' 이미지까지 등장하면서 AI 이미지가 허위 경비 청구나 환불 사기 등 범죄에 악용될 수 있다는 우려가 커지고 있다. 음식 얼룩과 구겨진 종이 질감까지 표현돼 자세히 보지 않으면 구별이 어려울 정도까지 발전됐다. 전문가들은 신뢰를 무너뜨리는 AI 조작물 확산을 막기 위한 제도적 대응이 시급하다고 지적한다.

방제일 기자 zeilism@asiae.co.kr