온라인 뉴스 댓글을 이용해 사회적 갈등과 양극화를 부추긴 것으로 의심되는 흔적을 찾아내고, 의심하게 된 근거를 증명하는 인공지능(AI) 기술이 개발됐다. 의심하는 근거의 증명은 기존 AI 탐지 기술이 특정 계정을 '온라인 영향력 공작' 의심 계정으로 분류돼도, '의심하는 이유'에 관한 명확한 근거를 제시하지 못한 것과 구별된다. 온라인 영향력 공작은 특정 세력이 댓글 또는 게시물을 조직적으로 확산해 대중의 인식과 여론에 영향을 미치려는 의도적 활동을 의미한다.


AI로 생성한 연구 개념도. KAIST

AI로 생성한 연구 개념도. KAIST

AD
원본보기 아이콘

KAIST는 문화기술대학원 이원재 교수와 전산학부 차미영(독일 막스플랑크 연구소 단장 겸임)·오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구로 '설명 가능한 AI' 기술을 개발했다고 12일 밝혔다.

이 AI는 온라인 뉴스 댓글에서 외국과 연계된 영향력으로 활동(의심)하는 패턴을 자동으로 탐지해 판단 근거까지 제시하는 게 특징이다.


연구에서 공동연구팀은 앞서 국가안보전략연구원이 식별한 외국 연계 계정 70개를 출발점으로 계정과 연관되거나, 같은 기사에 반복적으로 게시된 댓글의 계정을 추적했다. 2006~2025년 네이버 뉴스에 작성된 1억1000만여 건의 댓글을 분석하는 방식이다.

방대한 양의 빅데이터를 분석하는 과정에서 AI는 단계적으로 댓글을 분석했다. 작성자가 외국과 연계됐다고 의심할 만한 표현 또는 맥락을 먼저 찾은 후 도덕적 비난 또는 맹목적 찬양처럼 사회적 양극화를 조장하는 감정이 내포됐는지를 살펴보는 수순이다. 마지막 단계에서 AI는 이러한 감정이 어느 국가, 대상을 향하는지도 파악했다.


공동연구팀이 개발한 설명 가능한 AI의 핵심은 AI가 단순히 '의심스럽다'는 결과만 내놓지 않는다는 데 있다. AI가 판단의 근거가 된 댓글의 표현을 제시, 사용자가 판단의 근거를 함께 살펴볼 수 있게 한 것이다. 여기에 계정의 활동 빈도·활동 기간·다른 의심 계정과의 활동 연관성 등 다양한 행동 패턴까지 분석해 도출한 결과에 설득력을 높였다.


AI 생성 이미지. KAIST

AI 생성 이미지. KAIST

원본보기 아이콘

빅데이터 분석 결과 2005~2025년 네이버 뉴스 이용자 400만명 중 외국과 연계한 영향력 활동이 의심되는 계정은 총 2만3998개로 식별됐다. 특히 의심 계정 활동에선 주목할 만한 특징도 발견됐다. 특정 정치 진영을 일방적으로 지지하기보다는 '한국 사회 내부 갈등과 대립을 증폭하는 방향의 메시지'가 두드러진 것이다.


실제 대중의 호응을 많이 얻은 상위 10개 표적 중 7개는 국내 유명 정치인을 향했다. 특정 정당 또는 이념에 집중되지 않고, 진보와 보수 진영의 전·현직 대통령과 대선 후보 그리고 정당 등이 대상에 오르는 정황도 엿볼 수 있었다.


공동연구팀은 이 같은 결과를 토대로 외국과 연계한 영향력 있는 활동을 단순히 '어느 정치 세력을 지지하는가'의 관점에서만 바라보는 데 한계가 따른다는 점을 짚었다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 증폭하는 데 영향력을 과시할 가능성까지 함께 살펴봐야 한다는 설명도 뒤따랐다.


(왼쪽부터) KAIST 김재홍 박사과정, 김현승 석사과정, 전산학부 김지선 박사과정, 전산학부 오혜연 교수, 독일 막스플랑크 토르스텐 홀츠, KAIST 이원재 교수, KAIST 차미영 교수. KAIST

(왼쪽부터) KAIST 김재홍 박사과정, 김현승 석사과정, 전산학부 김지선 박사과정, 전산학부 오혜연 교수, 독일 막스플랑크 토르스텐 홀츠, KAIST 이원재 교수, KAIST 차미영 교수. KAIST

원본보기 아이콘

향후 이 기술은 선거 또는 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 진단 기법으로 활용할 수 있을 것으로 보인다. 이때 포털과 모니터링 기관은 방대한 양의 댓글 중 먼저 살펴봐야 할 계정 또는 메시지를 AI로 선별하고, AI가 제시한 근거를 전문가 검토를 거쳐 최종적으로 판단하는 것이 주효할 것으로 공동연구팀은 내다본다.


AI가 직접 의심 계정을 자동으로 차단·제재하지 않고, 전문가의 판단을 지원하는 '설명 가능한 콘텐츠 관리 도구'로 활용하는 것이 중요하다는 맥락이다.


이 교수는 "온라인 플랫폼은 외국 세력이 낮은 비용으로 대규모 이용자에 접근, 특정 메시지를 반복·확산해 사회적 불신과 정치적 갈등 조장을 유발하는 공간으로 악용될 수 있다"며 "공동연구팀이 개발한 AI는 선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 도구로, 온라인 공론장의 신뢰성을 높이는 데 기여할 것"이라고 말했다.

AD

한편 이번 연구에는 KAIST 김재홍 박사과정과 김현승 석사과정이 공동 제1 저자로 참여했다. 연구 결과는 컴퓨터 보안 분야 국제학술대회 'USENIX Security Symposium 2026(유즈닉스 시큐리티 심포지엄 2026)'에서 13일 발표될 예정이다.


대전=정일웅 기자 jiw3061@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈