'7세 여동생 성폭행 혐의' 11살 오빠에게 내린 판결 사실은…英 'AI 환각' 망신살

영국 고위 검사, 소년법원서 가짜 판례 인용
AI 환각 추정…"다른 판결과 착각" 해명
올해만 두 번째 사례…AI 오류 공론화

영국 검찰의 고위 검사가 존재하지 않는 판례를 근거로 11세 소년의 기소를 정당화하려 한 사실이 드러났다. 해당 판례는 인공지능(AI) 검색 과정에서 만들어진 것으로 추정된다.

3일(현지시간) 영국 일간 가디언은 "영국 검찰청(CPS) 강간·중대성범죄 전담부의 고위 검사 라빈더 딜런이 실재하지 않는 판례를 인용한 사실이 법원 문서를 통해 드러났다"며 "해당 판례는 인터넷 검색 과정에서 생성된 AI 요약 결과에서 나온 것으로 파악된다"고 보도했다.

성범죄 재판서 가짜 판례 인용…검사는 "실수"

기사 이해를 돕기 위한 영국 런던의 왕립재판소 모습. Pexels

문제가 된 판례는 7세 여동생을 성폭행한 혐의로 기소된 소년의 사건에서 나왔다. 피고인은 사건 당시 11세였다. 딜런 검사는 소년법원에서 기소가 정당하다고 주장하며 'CPS - R v J [2024] EWCA Crim 3529'라는 판례를 인용했지만, 이 판례는 존재하지 않았다. 이에 피고인 측은 기소 유지 결정에 불복해 고등법원에 사법심사를 청구하며 "검찰이 사회복지사와 청소년 담당 전문가, 법의학 심리학자 등의 의견을 충분히 고려하지 않았다"고 주장했다.

딜런 검사는 지난달 15일 법원에 낸 진술서에서 인용 오류를 인정했다. 그는 "인용하려던 판례는 지난 2009년 영국 상원의 'R v JTB' 판결"이라고 해명했다. 다만 사건을 심리한 홀게이트 항소법원 판사와 월 고등법원 판사는 이 해명을 두고 "만족스럽지 않다"고 지적했다.

다만 판사들은 가짜 판례 인용이 "기소 결정에 관한 판단에는 영향이 없다"며 피고인 측의 사법심사 청구를 기각했다. 피고인의 소년법원 재판은 이번 주 열릴 예정이다. 검찰청은 "오류는 인터넷을 이용한 법률 조사 과정에서 발생했으며 즉시 바로잡고 내부 검토를 진행했다"며 "판례는 신뢰할 수 있는 법률 자료에서 인용해야 한다"고 밝혔다. 이어 "AI가 법적 판단에 쓰이지 않도록 사용을 제한하고 반드시 사람이 정확성을 확인하는 엄격한 정책을 두고 있다"고 덧붙였다.

판사들의 AI 활용을 연구하는 브라이언 플래너건 아일랜드 메이누스대 법학 부교수는 "법에 대한 신뢰라는 규범 자체에 의문을 던지는 일"이라며 "심각한 실패"라고 비판했다.

오류 반복…"AI 잘못 쓰면 사법 신뢰 무너져"

최근 영국 법조계 전반에서 AI 관련 오류가 잇따르고 있다. 영국 검찰청은 지난 2월에도 루마니아인 2명의 범죄인 인도 사건에서 소속 변호사가 AI로 인한 것으로 보이는 가짜 판례를 인용한 사실을 인정한 바 있다. 당시 상대측 변호인이 해당 판례를 찾지 못하면서 오류가 드러났고, 검찰청은 재발 위험은 낮다고 봤다.

또 지난해 6월 고등법원은 카타르국립은행을 상대로 한 8900만파운드(약 1609억원) 규모 손해배상 소송에서는 원고 측이 인용한 판례 45건 중 18건이 가짜로 드러났다고 밝혔다. 당시 빅토리아 샤프 고등법원 판사는 "AI가 오용되면 사법 행정과 사법 체계에 대한 대중의 신뢰에 심각한 영향을 미친다"며 이를 어긴 법조인은 법정 모독 절차나 경찰 수사 의뢰 등 제재를 받을 수 있다고 경고했다.

김성욱 기자 abc123@asiae.co.kr