"美시민으로 꾸민 가짜 SNS 계정…이란·中 여론조작 새 단계"

'통제불능' 중국산 오픈소스 AI 모델
폐쇄형 모델과 달리 개발사 제어 못해
여론전 등 공작 조장…딥시크 활용 사례도

이란과 중국이 중국산 오픈소스 인공지능(AI) 모델과 AI 에이전트를 결합해 사회관계망서비스(SNS)에서 가짜 계정을 대량 생성하고 미국 내 여론 조작에 활용한 것으로 알려졌다.

18일(현지시간) 뉴욕타임스(NYT)는 미국 정부 당국자와 보안 연구자들을 인용해 이란과 중국, 이스라엘 일부 민간 업체들이 최근 중국산 오픈소스 AI 모델을 기반으로 한 AI 에이전트를 온라인 영향력 공작에 활용했다고 보도했다.

이들은 중국산 오픈소스 AI 모델로 AI 에이전트를 만든 뒤 수백개의 에이전트를 SNS에 투입했다. AI 에이전트들은 인스타그램과 페이스북, 엑스(X·옛 트위터), 틱톡 등에 가짜 계정을 자동 개설하고 정치·사회 현안에 관한 허위 게시물을 작성해 퍼뜨렸다. 여러 계정의 메시지를 조율하는 작업도 AI가 수행했다.

미국 당국자들은 AI 에이전트가 가짜 계정 생성부터 콘텐츠 작성, 메시지 조율까지 영향력 공작 전 과정을 맡은 것은 사실상 첫 사례라고 설명했다. 운영자들은 AI가 가짜 계정을 만들거나 온라인 여론을 조작하지 못하도록 설정된 안전장치도 대부분 해제한 것으로 전해졌다.

공작 수준 자체는 아직 조악했지만 미국 정보기관과 주요 기술기업들은 이를 주목하고 있다. 조사 결과 중국과 이란의 작전은 국가 지원을 받은 것으로 파악됐고, 이스라엘에서 진행된 두 건의 사례는 민간 기업이 주도한 것으로 조사됐다.

미국 정부는 오는 11월 중간선거를 앞두고 이 같은 방식이 미국 유권자를 겨냥하는 데 활용될 가능성도 우려하고 있다. 러시아와 이란, 중국은 과거 미국 선거에서도 온라인 영향력 공작을 벌였지만 최근 AI 기술 발전으로 이를 훨씬 적은 인력으로 대규모 자동화할 수 있게 됐다는 것이다.

로이터연합뉴스

미국 정보당국은 이란의 공작 가능성도 주목하고 있다. 이란 측 AI 에이전트가 만든 가짜 계정들은 미국 주요 도시에 사는 평범한 미국인으로 위장했다. 이들은 기자와 정치인을 태그하며 인기 밈과 공화당 비판 내용을 퍼뜨렸다. 올해 상반기 활동한 이들 계정의 팔로어는 약 8만명에 달한 것으로 전해졌다. 앞서 중국이 이란과 유사한 AI 전술을 실험한 것으로 파악됐다.

이스라엘 민간업체의 사례도 확인됐다. 텔아비브의 AI 보안업체 인텔아이는 중국 딥시크의 오픈소스 AI 모델을 이용해 수천개의 SNS 계정을 통제했다. 이 회사는 유사 계정 1만개를 구입해 이 가운데 약 1000개를 실제로 AI 에이전트가 운영했다고 밝혔다.

AI는 게시물과 영상에 댓글을 달고 이용자들과 대화를 시도했으며 어떤 주제를 다룰지까지 스스로 선택했다. 계정들은 다음 달 예정된 이스라엘 총선을 소재로 베냐민 네타냐후 총리를 지지하거나 반대하는 내용의 게시물을 올렸다.

다만 인텔아이 측은 실제 영향력 공작이 아니라 AI 안전성을 점검하기 위한 실험이었다고 주장했다. 메타는 해당 활동을 "여러 플랫폼에 걸쳐 허위 계정을 생성하려는 조직적 시도"로 규정하고 관련 계정 대부분을 자동 탐지 시스템으로 삭제했다고 밝혔다.

전문가들은 중국산 오픈소스 AI 모델의 확산이 이런 공작을 더 어렵게 만들 수 있다고 봤다. 오픈AI나 앤스로픽 같은 기업의 폐쇄형 모델과 달리 오픈소스 모델은 개인 서버나 장비에서 직접 구동할 수 있어 개발사가 사용을 차단하거나 안전장치를 다시 적용하기 어렵기 때문이다.

카일 크라이턴 조지타운대 안보·신흥기술센터 연구원은 "AI 에이전트는 상당히 정교해질 수 있다"며 "규모를 키울 뿐 아니라 실제 사람 사용자처럼 보이도록 섞여 들어갈 수도 있다"고 말했다.

AI를 활용해 가짜 사진이나 영상, 글을 만드는 사례는 이전에도 있었지만, 가짜 계정을 만들고 운영하면서 여론전 전반을 스스로 수행하는 AI 에이전트의 등장은 새로운 단계라는 평가가 나온다고 NYT는 짚었다.

차민영 기자 blooming@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.