"사장님 치킨이 안 익었어요" 믿고 환불해줬는데…AI로 만든 가짜사진에 배달앱·자영업자 몸살

배달 음식 환불받으려 AI 사진 올려
증빙 사진 기반 환불 규정 악용

한 입 베어 문 배달 치킨의 속살이 붉게 드러나 있다. 얼핏 보면 제대로 익지 않은 음식 사진처럼 보이지만, 실제 조리 불량 사진이 아닌 인공지능(AI)으로 만든 이미지다. 최근 배달앱 업계에서는 이처럼 생성형 AI로 음식 하자 사진을 만들어 환불이나 주문 취소를 요구하는 사례가 새로운 골칫거리로 떠오르고 있다.

AI를 활용해 생성한 덜 익은 치킨 이미지. 챗GPT

지난 17일 헤럴드경제는 최근 배달의민족, 쿠팡이츠 등 주요 배달 플랫폼은 AI를 활용해 사진을 조작한 뒤 환불을 받는 악성 조작 리뷰로 인해 플랫폼과 점수 모두가 몸살을 앓고 있다고 보도했다.

먼저 주요 배달 플랫폼의 경우, 음식 품질 문제나 이물 혼입 신고가 접수될 경우 이용자가 제출한 사진 등 증빙자료를 검토해 환불 여부를 판단한다. 특히 배달의민족은 고객이 음식 품질 문제로 주문 취소를 요구하면 사진 등 증빙자료를 확인한 뒤 가게 동의 절차를 거쳐 환불을 진행하는 방식으로 알려졌다. 문제는 양대 플랫폼 모두 AI 허위 사진을 통한 환불 요구에 대응하고 있으나, AI 사진을 완벽히 판별하는 시스템은 갖추지 못한 상태다.

배달 플랫폼의 환불 절차는 소비자가 직접 찍은 사진 한 장에 크게 의존한다. 실제 음식이 상했거나 이물이 들어간 경우 소비자 보호를 위해 신속한 환불이 필요하지만, 반대로 악의적 이용자가 정상 음식을 AI로 조작해 제출할 경우 점주가 억울한 손실을 떠안을 수 있다. 아시아경제

자영업자 울리는 신종 꼼수

배달 플랫폼의 환불 절차는 소비자가 직접 찍은 사진 한 장에 크게 의존한다. 실제 음식이 상했거나 이물이 들어간 경우 소비자 보호를 위해 신속한 환불이 필요하지만, 반대로 악의적 이용자가 정상 음식을 AI로 조작해 제출할 경우 점주가 억울한 손실을 떠안을 수 있다. 특히 가맹점주가 과실을 인정하지 않더라도 플랫폼이 고객 응대 차원에서 포인트 보상이나 손실 보상 절차를 진행하는 경우가 있다. 이런 경우 분쟁의 최종 부담이 점주와 플랫폼으로 나뉘는 구조가 반복될 수 있다는 지적이 나온다.

자영업자가 온라인 커뮤니티에서는 이미 비슷한 불만이 이어지고 있다. "요즘은 사진도 믿기 어렵다", "멀쩡히 나간 음식이 갑자기 곰팡이 핀 음식처럼 돌아온다", "소비자 보호는 필요하지만, 악성 민원은 점주가 다 떠안는다"는 식의 반응이 대표적이다. 일부 누리꾼은 "정상적인 소비자까지 의심받게 만드는 행동", "한두 명의 악용 때문에 전체 환불 절차가 까다로워질 것"이라며 블랙컨슈머에 대한 강한 제재가 필요하다고 지적했다.

점주·플랫폼 모두 대응 난항

배달앱 업계의 고민은 기술적 한계에 있다. 배달의민족은 현재 AI 기술을 활용해 리뷰 조작이나 어뷰징 행위 일부를 거르고 있지만 아직 AI로 생성·편집된 음식 사진 자체를 명확히 판별하는 전용 시스템은 아직 갖추지 못한 상태다.

AI를 활용해 생성한 짬뽕에 머리카락이 들어간 모습. 챗GPT

이로 인해 AI 사진을 이용한 주문 취소, 환불 요구 등 부정행위는 개별 사례별로 모니터링에 의존할 수밖에 없다. 배달의민족과 쿠팡이츠 등 주요 배달 플랫폼은 부정행위가 확인될 경우 이용 제한, 영구 제재, 법적 대응 등을 검토하고 있지만, 생성형 AI 이미지의 품질이 빠르게 고도화되면서 육안만으로 진위를 가려내기는 점점 어려워지고 있다.

업계 관계자는 "현재로서는 AI 사진을 완벽하게 판독할 수 있는 기술적 수단이 제한적인 상황"이라며 "일부 생성형 AI 이미지는 메타데이터나 표시 정보로 확인할 수 있지만, 해당 부분이 삭제되거나 잘려 나간 채 제출되면 판별이 쉽지 않다"고 설명했다. 이어 "허위 리뷰와 부정 환불 시도는 선량한 소비자와 점주 모두에게 피해를 주는 행위"라며 "정기 모니터링을 강화하고, 반복적인 악성 이용자에 대해서는 이용 제재와 법적 대응을 병행하는 등 리뷰 생태계의 신뢰도를 지키기 위한 조치를 이어갈 것"이라고 말했다.

방제일 기자 zeilism@asiae.co.kr