AI 생성·편집 사진 확산…연구 활용 '빨간불'
시민과학 데이터 신뢰성 '흔들'...주의 필요

생성형 인공지능(AI)으로 만든 가짜 조류 사진이나 과도하게 보정한 사진이 시민과학 플랫폼에 올라오는 사례가 늘면서 생태 연구 데이터의 신뢰성을 떨어뜨릴 수 있다는 우려가 나왔다.

사진은 기사의 특정 내용과 관련 없음. 픽사베이

사진은 기사의 특정 내용과 관련 없음. 픽사베이

AD
원본보기 아이콘

20일(현지시간) 영국 가디언에 따르면 최근 생성형 AI로 합성하거나 과도하게 편집한 AI 이미지의 확산이 생태 연구에 활용되는 조류 관찰 데이터를 훼손하고 있다고 보도했다.


연구자들은 조류 관찰자들에게 사진 편집 과정에서 AI 사용을 자제해 달라고 촉구하고 있다. AI로 편집된 이미지가 시민과학 플랫폼인 아이내추럴리스트(iNaturalist)와 맥컬리 라이브러리(Macaulay Library)에 유입되면 종의 분포와 서식지 변화를 추적하는 연구의 정확성을 떨어뜨릴 수 있기 때문이다.

생성형 AI는 가짜 이미지를 손쉽게 만들어낼뿐더러 사진 속 새를 가린 나뭇가지나 잎을 제거하는 과정에서도 원본에 없던 형태를 만들어낼 수 있다. 연구자들은 이 과정에서 다른 종의 특징이 의도치 않게 이미지에 반영될 수 있다고 설명했다.

사진은 기사의 특정 내용과 관련 없음. 픽사베이

사진은 기사의 특정 내용과 관련 없음. 픽사베이

원본보기 아이콘

"사진 보정 과정서 다른 종 특징 합성"…허위 기록으로 이어져

최근 국제학술지 네이처(Nature)에 실린 논평에서 연구진은 인기 생물종 기록 데이터베이스에 수백 건의 AI 조작 이미지가 올라와 있다고 밝혔다. 연구진은 아직 확인되지 않은 AI 조작 이미지가 훨씬 더 많을 것으로 추정했다.

"희귀새 발견!" 환호했는데 알고 보니 AI…쏟아지는 가짜 사진에 골머리 앓는 연구자들 원본보기 아이콘

논문의 저자인 맨체스터 메트로폴리탄대학교의 생태학자 알렉산더 리스 박사는 "요즘 사회관계망서비스(SNS)에는 AI로 만든 야생동물 사진이 넘쳐난다"며 "이런 사진이 늘어날수록 생물종의 분포와 출현 시기를 분석하는 연구의 정확도가 떨어질 수 있다"고 경고했다.


리스 박사는 "누가 봐도 가짜인 사진은 대부분 쉽게 가려낼 수 있다"고 말했다. 이어 "시베리아에서 큰부리새(Toucan)가 찍혔다는 사진을 믿는 사람은 거의 없을 것"이라며 "문제는 사진을 보정하는 과정에서 AI를 사용할 때 다른 종의 특징이 섞여 원본에 없던 이미지가 만들어질 수 있다는 점"이라고 설명했다.

실제로 브라질 중부에서는 북아메리카에 주로 서식하는 붉은날개검은새(Red-winged Blackbird)가 관찰됐다는 기록이 올라왔지만, 조사 결과 사진 속 새는 흔한 종인 에폴렛 꾀꼬리(Epaulet Oriole)로 확인됐다. 사진을 촬영한 사람이 AI에 사진 보정을 요청하는 과정에서 다른 종의 특징을 일부 합성하면서 허위 관찰 기록이 만들어진 것이다.

사진은 기사의 특정 내용과 관련 없음. 픽사베이

사진은 기사의 특정 내용과 관련 없음. 픽사베이

원본보기 아이콘

AI 사용 표시 드문 시민과학 플랫폼…"악의적 의도 아니어도 주의 필요"

자연 관찰 정보를 공유하는 소셜 플랫폼 아이내추럴리스트에는 현재 6억1000만여장의 사진이 등록돼 있지만 AI 사용이 표시된 사례는 약 1400건에 불과하다.


아이내추럴리스트의 커뮤니티 지원 책임자이자 네이처 논문의 공동 저자인 토니 이와네는 "대부분 악의적인 의도로 만들어진 것은 아니지만 이용자들의 주의가 필요하다"고 말했다. 그는 "시민과학 플랫폼에는 연구자들만으로는 확보할 수 없는 방대한 데이터가 모인다"며 "기후변화와 생물종 분포를 파악하는 데 활용되는 만큼 신뢰할 수 있어야 한다"고 강조했다.

AD

시민들이 축적한 자연 관찰 기록이 생태 연구와 기후변화 분석의 핵심 자료로 활용되는 만큼 데이터의 신뢰성을 확보해야 한다는 목소리가 나온다.


최영 인턴기자 zero02@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈