구글, 'AI 위성사진 편집' 하루 만에 철회…"악용 우려"

가짜 위성사진 확산 우려에 중단
"안전장치 마련 전까지 기능 롤백"

구글이 지도 서비스 '구글 어스'에 인공지능(AI) 이미지 편집 기능을 도입했다가 허위정보 확산에 악용될 수 있다는 우려가 제기되자 사용을 중단했다.

1일 주요 외신에 따르면, 구글은 지난달 30일(현지시간) 구글 어스에 AI 이미지 생성 모델 '나노 바나나 2(Nano Banana 2)'를 적용하는 기능을 공개했다가 하루 만에 철회했다. 이용자는 위성사진과 항공사진, 3차원(3D) 지도 데이터를 바탕으로 특정 지역의 이미지를 AI로 생성하거나 편집할 수 있었다.

구글 어스를 구동하는 화면. 구글 어스 화면 캡처

구글은 이 기능을 활용하면 역사적 장면을 시각화하거나 부동산 개발 계획, 건설 프로젝트 등을 미리 구현할 수 있다고 설명했다. 구글 어스는 전쟁 지역과 재난 현장, 군사시설 등 접근이 어려운 지역의 상황을 확인하는 기준 자료로 언론과 연구기관 등에서 널리 활용돼 왔다.

하지만 공개 직후 공개출처정보(OSINT) 전문가와 허위정보 연구자들은 실제 지형과 건물 위에 폭발이나 사고 등 가짜 장면을 자연스럽게 합성할 수 있어 허위정보 확산에 악용될 수 있다고 우려했다. AFP통신 자체 시험 결과 파리 폭발 현장과 이란 핵시설, 러시아 폭탄 분화구, 시리아 이슬람국가(IS) 훈련장 등을 연상시키는 가짜 위성 이미지를 생성할 수 있었다고 보도했다.

논란이 확산하자 브라이언 호로위츠 구글 어스 제품관리자(PM)는 기능 공개 24시간이 지나기 전 업데이트를 통해 해당 기능을 롤백한다고 밝혔다. 호로위츠 PM은 공지를 통해 "정책을 위반하는 것으로 보이는 생성 이미지가 공유되는 사례가 발생했다"며 "더 강력한 안전장치를 마련할 때까지 해당 기능을 되돌리겠다"고 말했다.

오지은 기자 joy@asiae.co.kr