[초동시각] '사스포칼립스'라는 할루시네이션

얼마 전 취재원을 만난 자리였다. "요즘 뉴스들 보다 보면 솔직히 말씀드리면 맞는 이야기가 절반이 채 안 되는 것 같아요." 자본시장에 오래 몸담아온 잔뼈가 굵은 인물이었다. 처음엔 과장이겠거니, 농담하시는구나 싶었다. 뒤늦게 그 이야기를 되짚어 보니 그저 웃어넘기기가 쉽지 않다.

인공지능(AI)을 비판하는 가장 강력한 논거 중 하나가 '할루시네이션(hallucination)'이다. AI가 없는 사실을 있는 것처럼 꾸며낸다는 것이다. 실제로 챗GPT가 존재하지 않는 판례를 인용해 법정에서 망신당한 해외 사례가 있다. AI가 생성한 가짜 인용문이 학술 논문에 버젓이 실리기도 했다. '어찌 됐든 AI는 믿을 수 없다'는 결론으로 곧잘 흐른다. 그런데 잠깐. 인간은 할루시네이션을 하지 않는가. 얼마 전 만난 취재원의 이야기가 혹시 이 내용의 다른 버전이 아니었을까.

심리학에는 '확증 편향(confirmation bias)'이라는 개념이 있다. 자신이 믿고 싶은 것만 보고, 믿기 싫은 것은 무시하는 인간의 본능적 성향이다. 투자 세계에서 이 편향은 특히 치명적이다. 주가가 오를 것이라 믿는 투자자는 긍정적 신호만 수집하고, 불편한 데이터는 눈에 들어오지 않는다. 인간의 기억도 마찬가지다. 우리는 과거를 있는 그대로 꺼내는 게 아니라, 매번 새로 짜깁기한다. 그 과정에서 감정, 선입견, 사후 경험이 뒤섞인다. 경험 많은 펀드매니저가 과거의 성공 투자를 회고할 때 그 서사는 실제보다 훨씬 더 극적으로 재편집된 경우가 많다. AI가 할루시네이션을 한다면 그것은 어쩌면 인간의 할루시네이션을 가장 충실하게 학습한 결과일 수 있다. AI는 인간을 넘지 못해서 오류를 범하는 게 아니라 인간을 너무 잘 닮아서 오류를 범하는 것일지 모른다.

요즘 시장에서 가장 뜨거운 공포 서사 중 하나가 '사스포칼립스(SaaSpokalypse)'다. 서비스형 소프트웨어(SaaS)와 종말을 뜻하는 아포칼립스(Apocalypse)의 합성어다. AI 에이전트가 인간의 업무를 직접 처리하게 되면 그사이에 끼어 있던 SaaS 툴들은 설 자리를 잃는다는 논리다. 세일즈포스, 노션, 클라우드플레어 같은 기업들이 AI에 의해 통째로 대체된다는 것이다. 그러나 이 서사 자체가 일종의 할루시네이션일 수 있다.

자본시장은 새로운 기술 앞에서 유사한 패턴을 반복해 왔다. 위협을 과장하고, 단순화하고, 공포를 확증 편향으로 증폭시킨다. 인터넷이 등장했을 때 오프라인 유통은 전멸할 것이라 했지만 월마트는 여전히 존재한다. 스마트폰이 나왔을 때 PC 시장은 끝날 것이라 했지만 인텔은 사라지지 않았다. 기술 혁신은 대체보다 재편을 만들어내는 경우가 훨씬 많았다. SaaS도 마찬가지일 가능성이 높다. AI 에이전트가 업무 자동화를 주도하더라도, 그 에이전트가 작동하려면 결국 데이터가 필요하다. 수년간 기업의 영업 데이터를 축적해온 세일즈포스, 인사·재무 데이터를 쥐고 있는 워크데이는 AI의 경쟁자가 아니라 AI의 연료 공급처가 될 수 있다.

사스포칼립스는 SaaS 전체의 종말이 아니라 SaaS 내부의 구조조정을 의미한다. 데이터 해자(moat)가 깊고, AI와 협력할 수 있는 SaaS는 살아남을 수 있다. 물론 단순 기능만 팔던 SaaS는 AI에 흡수될 수 있다. 공포에 일괄 매도하는 것도, 반등을 기대하며 일괄 매수하는 것도 모두 할루시네이션일 수 있다. 지금 자본시장에 필요한 건 공포의 서사가 아니라 냉정한 옥석 가리기다.

김동표 기자 letmein@asiae.co.kr