"보육시설에 총기난사 할 것"…AI 챗봇 대화로 체포된 호주 20대 남성

클로드 대화내용 인터폴에 공유돼 덜미

호주 시드니에서 한 20대 남성이 인공지능(AI) 챗봇과 보육시설 총기 난사 계획에 관해 대화했다가 경찰에 체포됐다.

챗봇에 "보육시설에 총격 가하겠다"

19일(현지시간) 현지 매체 시드니모닝헤럴드 등에 따르면 시드니 경찰은 전날 오전 데이비드 랜 새크레이(29)를 체포했다. 그는 AI 챗봇 클로드와의 대화에서 시드니 남부 허스트빌 자택 인근 보육시설의 어린이 여러 명에게 총격을 가할 계획이라고 말한 혐의를 받는다.

법원에 제출된 경찰 수사 기록에 따르면 그는 챗봇에 "지금 당장 인근 웨스트필드(쇼핑센터)로 가서 그곳에 있는 보육시설에서 총격을 가하겠다"고 말했다. 또 지난해 12월 15명의 희생자를 초래한 '시드니 본다이 비치 총격 사건' 범인인 나비드 아크람(25)도 언급한 것으로 알려졌다.

새크레이는 국제형사경찰기구(ICPO·인터폴)가 챗봇과의 대화 내용을 포착해 호주 경찰에 전달하면서 체포됐다. 검찰은 통신 서비스를 이용해 타인을 위협하거나 괴롭히고 불쾌감을 준 혐의로 그를 기소했다.

검찰은 "(아크람과 마찬가지로) 시드니에서 사람들을 살해하려 한다"며 "우리는 그가 챗봇과 나눈 대화를 통해 그가 무슨 생각을 하는지 파악하고 있다"고 했다.

변호인 "스트레스에 격앙된 발언한 것"

다만 새크레이의 측은 AI와의 대화에 실질적인 범행 의도가 담긴 것은 아니라고 주장했다. 변호인 다닐로 라지코비치는 의뢰인이 귀 감염을 치료하는 데 도움을 받으려 클로드를 이용하다 스트레스와 좌절감이 쌓여 격앙된 발언을 했다고 설명했다.

라지코비치는 새크레이가 특정 개인이나 단체를 위협하려는 의도로 챗봇과 대화한 것은 아니며, 자택에서 나눈 대화가 사적이라고 생각했다고 밝혔다. 또 국제관계학을 공부 중인 새크레이는 전과가 없고 호주에서 17년 넘게 거주했다고도 덧붙였다.

법원은 새크레이에게 정신건강 평가를 받도록 했으며, 그는 평가 결과가 나온 뒤 다시 법정에 출석할 예정이다.

한편 클로드를 개발한 앤스로픽은 자사 AI 모델이 폭력을 계획하거나 선동하는 요청을 거부하도록 훈련됐으며, 위험한 대화를 감지하고 차단하는 자동 안전 시스템도 갖추고 있다고 밝혔다. 또 사망이나 심각한 신체적 상해 위험이 있는 긴급 상황을 예방하기 위해 필요하다고 판단하면 사용자 데이터를 법 집행기관과 공유할 수 있다고 설명했다.

허미담 기자 damdam@asiae.co.kr