거짓말 걸러내는 AI 나왔다… UNIST, 심리 추론 기술 '마르보' 개발

거짓말하는 AI들 틈에서 살아남게 상대 읽는 AI 학습법

"너 마피아지?" 말 뒤에 숨은 의도까지 꿰뚫어 보는 AI 기술

상대방의 거짓말과 행동 뒤에 숨은 본래 의도를 파악해 최적의 수를 찾는 인공지능(AI) 훈련 기술이 국내 연구진에 의해 개발됐다.

대화 상대가 내뱉는 거짓 정보를 걸러내고 판세와 의도를 읽어내는 새로운 인공지능 학습법이 마피아 게임에서 성능을 입증했다.

국내 연구진이 상대방의 거짓말이나 기만적인 행동을 꿰뚫어 보고 상황에 맞게 대처하는 인공지능(AI) 훈련 기술을 개발했다. 정보가 불완전한 상태에서 상대의 진짜 의도와 관계망을 읽어내는 능력을 입증했다.

UNIST(울산과학기술원) 인공지능대학원 한승열 교수 연구팀은 상대의 역할과 목적을 스스로 추론하도록 돕는 대형언어모델(LLM) 학습 기법 '마르보(MARBO)'를 구축했다고 1일 전했다.

연구진, (좌측부터) 한승열 교수, 황예찬 연구원, 배상준 연구원. UNIST 제공

마르보는 상대가 한 말뿐 아니라 과거 행동까지 함께 종합한다. 상대가 누구와 같은 편인지, 어떤 역할을 맡았는지 관계를 규명한 뒤 행동을 결정하는 방식이다.

연구팀은 정체를 숨긴 참가자를 찾아내는 심리 추론 게임인 '웨어울프'와 '어몽어스'에 이 기술을 투입했다. 70억개 매개변수를 지닌 AI 모델에 마르보를 적용하자 웨어울프 게임에서 평균 승률 65.6%를 기록했다.

기존 학습 모델(41.6%)보다 24%포인트 오른 수치다. 매개변수 규모가 두 배 더 큰 모델의 성적(64.0%)마저 넘어섰다.

연구진은 우연한 승리에 보상을 주던 기존 방식 대신, 정확한 판단과 적절한 행동이 결합했을 때만 가중치를 부여해 정확도를 끌어올렸다.

제1저자인 황예찬 연구원은 "특정 게임에 갇힌 기술이 아니라 상대의 역할과 관계 추론을 학습에 반영하는 새로운 접근"이라고 말했다.

한승열 교수는 "불완전하거나 기만적인 정보가 존재하는 상황에서도 상대의 역할과 관계를 추론하며 제대로 된 판단을 할 수 있게 하는 기술로 향후 다중 로봇, 자율 드론, 인간-AI 협업 등 여러 에이전트가 서로의 상태와 의도를 이해하며 협력해야 하는 시스템의 신뢰성과 적응성을 높이는 기반 기술로 확장될 수 있을 것"이라고 기대했다.

연구그림, MARBO의 전체 학습 단계.

이번 성과는 자연어 처리 분야 국제 학술대회 'EMNLP'에서 공식 발표됐다.

영남취재본부 김수로 기자 relationship6007@asiae.co.kr