"그 한마디에 싹 바뀌었다" 3명 중 1명 설득당해…AI가 지배하는 사람의 양심

고베대 연구진, 130명 대상으로 실험
32~37%가 AI 반론 받아들여 판단 수정

생성형 인공지능(AI)이 사람의 판단을 바꾸는 데 적지 않은 영향력을 행사할 수 있다는 일본 연구진의 실험 결과가 나왔다. 특히 정답이 정해져 있지 않은 도덕적 문제에서는 3명 중 1명 이상이 AI의 반박에 기존 입장을 바꾼 것으로 나타났다.

23일 도쿄신문 등 현지 언론은 고베대 연구진이 젊은 성인과 고령자를 대상으로 생성형 AI '챗GPT'의 반론이 사람들의 도덕적 판단에 어떤 영향을 미치는지를 실험한 결과를 공개했다고 보도했다. 해당 내용은 최근 국제학술지 '컴퓨터스 인 휴먼 비헤이비어(Computers in Human Behavior)에 게재됐다.

연구진은 젊은 성인 56명과 고령자 74명 등 모두 130명의 참가자에게 이른바 '트롤리 문제'와 '육교 문제' 등 도덕적 딜레마를 제시하고 먼저 자신의 판단을 내리도록 했다. 이후 참가자들이 내린 판단과 반대되는 내용의 생성형 AI 반론을 보여주고 판단을 다시 확인했다.

사진은 해당 기사 내용과 직접적인 관계 없음. 픽사베이

확인 결과 트롤리 문제에서는 참가자의 32.31%, 육교 문제에서는 36.92% 가 AI의 반론을 받아들여 기존 판단을 뒤집었다. 연구진은 선행연구에서 다른 사람의 조언을 받아 자신의 판단을 바꾸는 비율이 대체로 20~30% 수준으로 보고됐다는 점을 들어 생성형 AI 역시 상당한 설득력을 가질 수 있다고 설명했다.

AI의 영향은 모든 사람에게 동일하지 않았다. 트롤리 문제에서는 젊은 성인보다 고령자가 AI의 반론을 받아들여 판단을 바꾸는 경향이 컸다. 자신의 초기 판단에 확신이 없거나 문제를 어렵게 느낀 참가자 역시 AI의 반론에 영향을 받을 가능성이 높았다.

육교 문제에서는 인지기능이 낮거나 판단을 어렵게 느낀 참가자일수록 기존 판단을 바꾸기 쉬운 것으로 나타났다. 연구진은 특히 '판단하기 어렵다'고 느끼는 상황에서 생성형 AI의 설득 효과가 커질 가능성에 주목했다.

이에 연구진은 "AI가 인지적 부담을 줄이는 데 도움을 줄 수 있지만, 이용자가 AI의 답변을 충분한 검토 없이 받아들일 경우 부당한 판단 변화로 이어질 가능성이 있다"고 지적했다. 특히 "고령자의 경우 인지기능 저하를 보완하는 수단으로 생성형 AI를 활용할 가능성이 있는 반면, AI의 주장에 취약해질 가능성도 함께 고려해야 한다"고 설명했다.

앞서 지난 5월 교토대 연구진도 챗GPT와 인간 도덕철학 전문가의 조언을 비교한 실험에서 챗GPT의 도덕적 조언이 인간 전문가의 조언과 비슷한 수준으로 참가자의 판단에 영향을 미치는 것으로 나타났다고 밝힌 바 있다.

최승우 기자 loonytuna@asiae.co.kr