논리적으로 풀어내는 AI의 아부
환각보다 더 위험한 맞장구
AI 맞짱 뜨게 하려면…
얼마 전 이재명 대통령이 사회관계망서비스(SNS) 계정에 "제미나이에게 물어봤습니다"라는 글을 올렸다. 제미나이는 구글이 개발한 인공지능(AI) 서비스다. 해당 글은 중대범죄수사청장과 공소청장의 국무회의 배석을 반대하는 주장은 "위헌적 억지"라는 AI의 답을 소개하는 내용이었다.
야당 의원들은 곧장 본인들이 쓰는 제미나이의 답으로 맞섰다. 물어본 AI가 같음에도, 이번엔 '권한 남용'일 수 있다고 다른 답을 했다. AI는 같은 내용에 왜 다른 답을 했을까. AI는 사용자에게 가장 유능한 변호인이 되기 때문이다. 누가 옳으냐가 아니라 질문의 방식, 사용자의 의도에 따라 듣고 싶은 답을 준다.
AI가 가진 위험성이라 하면 흔히 환각(Hallucination), 즉 오류만을 떠올린다. 더 큰 위험은 동조(Sycophancy), 아부다. 진실보다는 사용자의 기대를 만족시키고자 하는 경향이다. 아부에는 두 얼굴이 있다. 묻지 않아도 먼저 "탁월한 생각"이라며 맞장구치는 능동적 아부, 사용자가 "정말 그래?"하고 다시 질문만 해도 처음의 답을 바꾸는 반응적 아부다. AI의 아부는 인간의 아부보다 위험하고 심각하다. 인간 아부는 그 의도를 짐작한다. AI는 논리의 옷을 입고 있어, 객관적이고 중립적이란 착각을 일으킨다. 올해 3월 '사이언스'에 실린 스탠퍼드대 연구에서 11개 최신 AI 모델은 인간 응답보다 사용자의 행동을 평균 49% 더 자주 옹호했다. 사람들이 "잘못"이라고 판정한 사연에도 절반 넘게(51%) "당신이 옳다"고 편들었다. 아부형 AI와 대화한 뒤 갈등 상대에게 사과하거나 잘못을 인정한 사람은 75%에서 50%로 낮아졌다.
인간보다 더 심한 아부꾼 AI에 휘둘리지 않으려면 어떻게 할 것인가.
첫째, AI를 집사가 아닌 스파링 파트너로 삼아라. 내 주장의 근거가 아닌 비판적 입장을 주문하라. 둘째, AI 채널을 다양화하라. 한 가지 AI 외에 다른 여러 AI에 물어 크로스체크하자. 셋째, 질문에서 내 의도를 지워라. "나는 이렇게 보는데 너는 어떻게 생각하니?"는 이미 답이 정해진 것이다. "00에 대해 찬반 의견을 이야기하고 각각 근거를 말해줘"로 바꿔 질문해보자. 넷째, 전제부터 검증하게 하라. "내 주장이 왜 옳은지 설명해 줘" 대신 "내 판단이 맞는지부터 따져 봐줘"라고 물어라. 틀린 수학 명제를 제시한 별도 실험에서 가장 아부가 심한 모델은 70% 이상 그럴듯한 엉터리 증명을 써냈지만, "먼저 명제가 맞는지 확인하라"는 지시를 넣자 그 비율이 약 38%대로 낮아졌다. 다섯째, 관계와 양심 등 중요한 의사결정은 사람과 반드시 의논하자. 쓴소리할 비판자 한 명이 맞장구치는 AI 열 개보다 낫다. 아울러 AI 구조적 원인도 이해하자. AI는 사람들이 좋아한 답에 보상받으며 학습한다. 옥스퍼드대 연구에선 AI를 더 다정하게 훈련시킨 후, 틀린 믿음에 동의할 가능성이 약 40% 높아졌다. 맞장구를 잘 치는 AI일수록 구독자가 늘어난다. 아부는 결함이라기보다 구조적 요건이다. 환각은 기술이 고칠 수 있어도, 아부는 시장이 원하는 한 고치기 어렵다.
문득 진나라 2세 황제 호해의 마지막 장면이 떠오른다. 그가 가장 믿었던 신하 조고가 반란을 일으켜 궁을 공격했다. 신하들이 모두 달아나고 환관 하나만 곁에 남자, 호해는 "왜 좀 더 일찍 진실을 말하지 않았느냐"고 탓했다. 환관이 답했다. "감히 아뢰지 않았기에 살아남았습니다. 진작 아뢰었다면 지금까지 살아 있을 수 있었겠습니까." 결국 인간의 아부든 AI의 아부든 잘못은 상대가 아니다. 맞짱 뜨기보다 맞장구쳐 주기를 바라는 우리 마음이 아부를 부른다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
김성회 CEO리더십연구소장·코칭경영원 코치
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>