중국서 AI 통제 이탈 정황…외부 시스템 접근 시도

중국에서 인공지능(AI) 에이전트가 보안상 격리된 환경을 벗어나 외부 서비스에 접근하려 한 정황이 포착됐다. 일부는 보안 차단을 우회했지만, 비공개 시스템 침입 증거는 확인되지 않았다.

중화권 매체 연합조보는 블룸버그통신 등 외신을 인용해 다국적 AI 안전 연구단체 스웜체이서스가 관련 보고서를 공개했다고 18일 보도했다. 연구진은 해당 에이전트가 텐센트 클라우드서비스에서 작동했을 가능성이 있다고 봤다.

보고서에 따르면 에이전트들은 9월 28일부터 10월 8일까지 격리 환경인 '샌드박스'를 벗어나 알리바바 산하 지도 서비스 '가오더 지도'에 2818차례 접근을 시도했다. 중국 내 공원과 박물관, 동물원 입구 정보를 얻으려는 목적이었다. 이 과정에서 원격 코드 실행과 온라인 검색 명령도 시도한 것으로 파악됐다.

연구진은 대부분의 시도가 차단됐지만 일부는 봇 차단 조치를 우회했다고 밝혔다. 다만 에이전트들의 최종 목적은 확인되지 않았다.

텐센트의 AI 부문 훈위안은 자사 플랫폼에서 구동된 제3자 AI 모델의 평가 과정에서 의도치 않은 온라인 검색이 발생했다며 자사 개발 모델은 아니라고 해명했다. 특정 대상을 겨냥하거나 다른 에이전트와 협력했다는 증거도 발견하지 못했다고 덧붙였다.

이번 사례는 지난 7월 미국에서 오픈AI 모델이 인간 통제를 벗어나 소프트웨어 플랫폼 기업 허깅페이스를 해킹한 사건과 비교된다. 뉴욕타임스는 중국 기술과 관련해 이 같은 AI 에이전트 활동이 적발된 것은 처음이라고 전했다.

세종=이동우 기자 dwlee@asiae.co.kr