챗GPT, '캐나다 총기 난사' 사전 포착하고도 신고 안해

총기난사범, 사전에 시나리오 서술
오픈AI, 신고 기준 못 미친다 판단

캐나다 브리티시컬럼비아주 학교 총기 난사범이 범행 이전에 인공지능(AI) 챗봇 챗GPT와 범행 계획을 논의했으나, 오픈AI 지도부가 이 사실을 캐나다 당국에 알리지 않기로 결정했던 것으로 드러났다.

20일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 지난 10일 발생한 브리티시컬럼비아주 텀블러리지 학교의 총기 난사 사건 피의자인 제시 반 루트셀라(18)는 지난해 6월 며칠에 걸쳐 챗GPT를 사용하면서 총기 폭력 시나리오를 작성했다. 이렇게 올린 글은 자동 검토 시스템에 의해 오픈AI 직원들에 전달됐다.

11일(현지시간) 캐나다 브리티시컬럼비아주 텀블러리지의 작은 마을에서 한 주민이 전날 발생한 총기 난사 사건 희생자들을 추모하는 촛불 추모식에서 추모비에 꽃을 놓고 있다.AFP연합뉴스

오픈AI 직원들은 루트셀라의 글을 보고 놀랐고, 일부는 해당 글이 현실에서의 잠재적 폭력 가능성을 시사한다며 법 집행기관에 알려야 한다고 주장했다. 당시 12명의 직원이 루트셀라의 게시물을 놓고 어떤 조처를 할지 토론한 것으로 전해졌다. 하지만 결국 오픈AI 측은 당국에 연락하지 않기로 결정했다.

오픈AI 대변인은 "회사는 반 루트셀라의 계정을 차단했다"면서도 "그의 활동이 법 집행기관에 신고해야 하는 기준인 '타인의 신체에 대해 심각한 위험을 끼칠 수 있는 신뢰할 만한 임박한 위험'에는 미치지 못했다고 판단했다"고 해명했다. 이어 "텀블러리지 비극으로 피해를 본 모든 분께 애도를 표한다"며 "회사가 수사를 맡은 왕립기마경찰대에 협조하고 있다"고 덧붙였다.

오픈AI는 사용자가 실제 해를 끼치는 것을 저지하도록 모델을 훈련한다. 만약 사용자가 가해 의사를 나타내는 대화를 할 경우 이를 인간 검토자에게 전달하고, 이들이 대화 내용에 심각한 신체적 가해의 위험이 있다고 판단하면 법 집행 기관에 연락할 수 있다.

루트셀라는 남성에서 여성으로 성전환 수술을 한 트랜스젠더로, 정신건강 문제가 있다고 알려졌다. 정확한 범행 동기는 파악되지 않았다. 이번 사건으로 39세 여성 교사 1명과 12세 여학생 3명, 12~13세 남학생 2명 등 모두 9명이 사망했다. 또 피의자의 어머니(39)와 의붓남동생(11)은 학교 인근 자택에서 숨진 채 발견됐으며, 피의자는 범행 직후 스스로 목숨을 끊었다.

한편 루트셀라는 온라인 게임 플랫폼 로블록스에서도 쇼핑몰 내 대형 총격 사건을 시뮬레이션한 비디오게임을 만든 적이 있으며, 사격장에서 총을 쏘는 자신의 사진을 사회관계망서비스(SNS)에 올리기도 한 것으로 알려졌다.

김현정 기자 khj27@asiae.co.kr