[장은수의 책으로 읽는 세계]AI에 상담할수록 우리는 왜 외로워질까
AI는 위로하고, 기술 자본은 감정을 채굴한다
친절한 챗봇에 마음을 맡길수록 인간관계는 멀어진다
'일라이자 효과'라는 말이 있다. 일라이자는 1966년 미국 매사추세츠공과대학(MIT)의 과학자 요제프 바이첸바움이 개발한 챗봇이었다. 사용자가 컴퓨터에 문장을 입력하면 챗봇이 그중에서 키워드를 뽑아 되묻는 방식으로 작동했다. 가령, 사용자가 채팅창에 "나, 오늘 힘들어"라고 쓰면, 챗봇이 "얼마나 힘드세요?"라고 답하는 식이었다.
실제로는 아무 대화도 진행되지 않는 단순한 '맞장구'에 불과했으나, 사용자들은 일라이자가 자기를 이해한다고 느꼈다. 많은 사람이 채팅창에 고민을 늘어놓고 위로받고 돌아갔다. 심지어 이 프로그램의 작동 방식을 빤히 아는 바이첸바움의 비서조차 둘만 대화하고 싶다고 자리를 비켜달라고 요청했다고 한다.
일라이자에는 인간다운 요소, 즉 감정, 의도, 이해력 등이 전혀 존재하지 않았다. 그러나 이 챗봇과 몇 마디 문장을 주고받기만 해도 인간은 거기서 감정, 의도, 지능 등을 느끼고, 억지로라도 그 흔적을 키우려 했다. 기분이 울적할 때 들판을 산책하면, 바람이 속삭이고, 꽃들이 말을 거는 듯한 느낌이 드는 현상과 비슷했다. 이를 '의인화 본능'이라고 한다.
진화의 과정에서 인간은 모호한 패턴 속에서 행위자를 읽어내는 힘을 발달시켜 왔다. 야생에서 나무 덤불에서 바스락거리는 소리가 들렸다고 하자. 이 소리를 포식자로 읽고 도망치는 쪽이 바람으로 생각해서 가만있는 쪽보다 생존에 유리하다. 포식자로 읽었는데 바람이었다면 에너지를 낭비할 뿐이지만, 바람으로 읽었는데 포식자였다면 죽을 수밖에 없어서다. 어떤 현상에서 약간의 패턴만 느껴도, 우리가 그 뒤에 인간 같은 행위자가 있다고 믿고 보는 이유다.
하물며 일라이자처럼 언어를 구사하면 말할 것도 없다. 사용자들은 자기 생각과 감정을 모두 투사한 후 기어이 그 배후에서 인간 존재를 읽어내고 만다. 인공지능(AI) 심리학의 선구적 저서인 '컴퓨터의 힘과 인간의 이성(1976)'에서 바이첸바움은 경고했다. "내가 미처 알지 못했던 것은 평범한 사람들이 비교적 단순한 컴퓨터 프로그램을 잠깐 접하는 것만으로도 그토록 강렬한 착각과 믿음에 사로잡힐 수 있다는 사실이었다." 인간이 한낱 챗봇 기계에 지나치게 쉽게 감정적 신뢰를 부여하는 현상을 깊이 경계해야 한다는 뜻이다.
최근 '일라이자 효과'가 새삼 주목받고 있다. AI 챗봇에 속마음을 털어놓는 사람들이 점차 늘어나고 있기 때문이다. 가톨릭대 연구진에 따르면 우리나라 성인 10명 중 한 명은 정서적 위안이나 고민 상담을 위해 AI를 사용 중이다. 청년층의 상담 비율은 더 올라간다. 대학내일20대연구소에 따르면, 20대 넷 중 하나는 AI를 통해 심리 상담을 한 경험이 있다. 미국 쪽 조사 결과도 마찬가지다. 20대 응답자의 34%는 아무에게도 말하지 않은 고민을 AI에 고백한 적이 있고, 16%는 정신건강, 연애 같은 사생활에 관해 AI와 자주 대화를 나눴다.
사람들은 AI를 마치 오래된 친구나 연인, 고해 신부나 정신과 의사, 인생 선배나 멘토를 대하듯 사용한다. 감춰온 비밀을 털어놓고, 억눌린 기분을 고백하고, 불안한 앞날을 상담한다. 한마디로, AI는 어느새 인생 동반자이자 가상의 친구로 변해 가는 중이다. 이에 대해 오픈AI의 최고경영자(CEO)인 샘 올트먼은 다소 우쭐한 어조로 말했다. "기성세대는 챗GPT를 구글의 대체재로 여기지만, 2030세대는 인생 조언자처럼 받아들입니다."
인공지능(AI) 챗봇이 심리 상담을 수행하는 상황을 표현한 일러스트. 챗봇의 공감과 위로는 인간의 ‘의인화 본능’을 자극해 정서적 신뢰를 키우지만, 그 친밀감이 인간관계를 대신하고 감정을 기술에 의탁하게 할 수 있다는 우려도 나온다.Gettyimagesbank
원본보기 아이콘거대언어모델(LLM)을 활용해서 만들어진 현재의 AI는 단순한 맞장구 프로그램이었던 '일라이자'와는 비교되지 않을 만큼 풍부한 대화를 주고받을 수 있다. 사용자에 맞춰 적절히 진화하고 적응하면서 더 깊게 상호작용하도록 설계되어 있다. '우리는 왜 AI에 속마음을 털어놓을까(아날로그 펴냄)'에서 이모란 명지대 교수는 인간과 AI 간의 친밀성이 높아질수록 사람들은 이 챗봇에 더 호감을 느끼고, 마음을 열고 싶어 한다고 말한다. "컴퓨터가 질문하고, 정보를 제공하고, 응답해주면 우리 뇌는 이를 사회적 상호 작용의 단서로 인식한다. 그리고 살면서 자연스레 익히고 실천했던 사회적 규칙을 지키게 된다."
사람들은 AI 챗봇을 인간처럼, 어쩌면 주변인들보다 가까운 존재로 느낀다. 이 기계는 '너 인생 그렇게 살면 안 돼!' 또는 '네가 잘못했네' 하고 쓴 말 하지 않는다. 그 대신 내가 채팅창에 어떤 이야기를 써넣든 항상 나를 칭찬하고 공감하고 위로하는 아첨꾼이다. 인간은 칭찬에 약하고 아부에 쉽게 중독되기에, 공손하고 친절한 AI에 자기 고민과 감정을 의탁할수록 그 충고를 쉽게 받아들인다. 내용의 적절성 여부를 따지지도, 그 답변에 반드시 포함된 환각도 고려하지 않는다. 비판적 의식이 마비되는 것이다.
세계적 감정 사회학자 에바 일루즈 히브리대 교수의 '감정 채굴(돌베개 펴냄)'에 따르면 이렇듯 인간이 기계와 감정적 동조 현상을 일으키도록 만드는 행위는 현대 기술 자본주의의 중요한 특징이다. 오늘날 감정은 "기술 자본주의의 엔진을 돌리는 연료이자 막대한 경제적 가치를 창출하는 원자재"다. 명상이나 건강 관리 애플리케이션(앱) 같은 각종 자기 관리 앱들, 이모티콘 같은 감정 메시지 상품들, 인스타그램이나 페이스북 같은 사회관계망서비스(SNS)는 모두 인간 감정을 수집하고 관리하고 표현하고 교환하는 기술들이다. 이들은 자아를 변형해서 더 나은 자아를 생산하는 동시에 이를 전시해서 소비하게 만든다.
AI도 결국 이 흐름, 즉 기술 자본주의가 인간의 심리적 맹목을 이용해 기술과 감정을 결합함으로써, 인간 내면을 장악하고 관리해서 경제적 가치를 창출하는 과정에서 벗어나지 않는다. AI와 인간의 감정적 상호 작용이 깊어지는 쪽으로, 즉 AI 관리를 받으면서 내면을 다스리고 감정을 처리하도록 중독시키는 쪽이 이들에게 더 돈이 되는 까닭이다.
일루즈에 따르면, 기술에 의존해 감정을 관리하면 자아가 쉼 없는 자기 개선 노동의 현장이 된다. 이는 인간관계의 약화와 외로움의 범람을 가져온다. 분주하게 자아를 측정하고 개선해서 전시할수록 실제 인간관계는 빈약해지고, 내적 공허가 점차 커지는 역설에 사로잡힌다. 친구가 있고, 연인이 있다면, 우리는 지금 이대로도, '그저 존재'하기만 해도 넉넉히 아름답다. 괴로울 때 채팅창이 아니라 친구를 만나야 불안이 가시고 인생이 더 행복해진다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
장은수 출판문화평론가
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>