AI 보고서 믿고 투자했다간 낭패?… UNIST·LG 연구팀 규명

“요약만 바꿨는데 투자 판단이 달라졌다”… UNIST, 금융 AI 신뢰성 높인다

LG AI연구원과 '요약의 판단 왜곡' 분석… 한화생명과 맞춤형 금융자문 연구

인공지능(AI)이 기업 보고서를 요약하는 과정에서 맥락을 빠뜨려 투자 판단을 왜곡하는 비율이 최대 30%를 웃돈다는 실증 분석 결과가 나왔다.

AI가 요약한 기업 실적 보고서에 허위 사실이 없더라도, 정작 원문과 정반대의 투자 결정을 부를 수 있다는 연구 결과가 국제 학계에서 확인됐다.

인공지능(AI)이 작성한 요약 보고서가 사실관계에 오류가 없더라도 투자 판단을 왜곡할 확률이 최대 30%를 넘는 것으로 나타났다. 요약 과정에서 수반되는 '맥락 누락'이 치명적인 금융 오판을 부를 수 있다는 지적이다.

UNIST 산업공학과·인공지능대학원 이용재 교수팀은 글로벌 자연어처리 학회 'EMNLP 2026'에서 금융 AI의 판단 왜곡과 신뢰성을 분석한 논문 4편을 발표했다. 이번 연구는 LG AI연구원, 한화생명, 글로벌 투자기관들이 대거 참여한 산학 협력 성과다.

UNIST 이용재 교수.

연구팀이 미국 기업의 공시와 실적 발표 자료 597건을 분석한 결과, 동일한 AI 모델이라도 원문과 요약본에 내린 투자 판단이 서로 다르게 엇갈린 비율이 24~32%에 달했다. 팩트 자체가 틀리지 않아도 필수 맥락이 잘려 나가면 AI조차 기업 가치를 전혀 다르게 해석했다.

왜곡을 차단할 해법도 제시했다. 여러 요약본을 원문과 실시간 대조해 근거가 가장 충실한 내용을 추려내는 '에이전트 기반 맥락 압축(ACC)' 기술이다. 이 기술을 적용하자 원문 길이의 4∼5% 수준만 유지하면서도 판단 변화율을 기존 31.5%에서 19.5%까지 크게 낮췄다.

학회에서는 맞춤형 AI 금융자문가를 구축하는 '펀드투페르소나'와 공시 문구의 변화에서 투자 기회를 포착하는 기술, ESG 보고서의 공시 기준 충족 여부를 다국어로 검증하는 시스템도 함께 공개됐다. JP모건, 블랙록, 블랙스톤 등 글로벌 투자기관 전문가들이 연구에 직접 힘을 보탰다.

이용재 교수는 "이번 성과는 LG AI연구원·한화생명과의 산학과제에서 출발한 현장 문제를 국내외 금융기관과 대학 연구진 협력으로 발전시킨 결과"라며 "금융 AI가 판단에 필요한 근거를 충실히 보존하고 투자자 목적에 맞는 도움을 제공하도록 연구를 이어가겠다"고 말했다.

영남취재본부 김수로 기자 relationship6007@asiae.co.kr