가짜 판례에 프롬프트까지 그대로…판사 80% "AI 환각 경험했다"

대법원 양식 베낀 가짜 판결문까지 등장
판사 80% "AI 환각 경험했다"
"확인 안 하고 덜컥" 변호사 제출 서면
절반 이상 차지하는 촌극
판사 91.7% "제도적 제재 필요"
법원행정처, 과태료·징계 등 엄단 예고

사법절차에서 인공지능(AI) 활용이 늘면서 재판에 존재하지 않는 '가짜 판례'나 법령을 제출하는 사례가 속출하고 있다. 재판을 담당하는 법관 10명 중 8명이 이를 경험한 것으로 나타났다. 법원행정처가 과태료 부과 등 강력한 제재 방안 마련에 나섰다.

법원행정처는 10월6일부터 16일까지 전국 각급 법원 법관 360명을 대상으로 실시한 'AI 환각(할루시네이션)에 따른 허위·부존재 판례 등 인용 관련 설문조사' 결과를 발표했다.

조사 결과, 민사·가사·행정 사건을 담당하는 응답 법관의 약 80%가 소송 서면에서 허위 또는 존재하지 않는 판례 등이 인용된 사례를 경험했다고 답했다. 구체적인 유형(복수응답)으로는 '부존재 판례 인용'이 196명(80.7%)으로 가장 많았고, '허위 판례 인용' 159명(65.4%), '허위·부존재 법령 인용' 41명(16.9%), '문헌 등 기타 자료 인용' 10명(4.1%) 순이었다.

문제는 이러한 오류가 여과 없이 재판부에 제출되고 있다는 점이다. 가짜 판례 등을 제출한 주체로는 '당사자 본인(나 홀로 소송)'이라는 응답이 164명(69.5%)으로 가장 많았으나, '변호사인 소송대리인 또는 변호인'을 꼽은 비율도 136명(57.6%)에 달했다.

황당한 사례도 다수 보고됐다. 대법원 판결서 형식을 그대로 차용해 AI로 본떠 만든 '허위 판결서'를 제출하거나, 처음 보는 법리와 함께 대법원 사건번호를 기재했으나 실제로는 검색되지 않는 유령 판례를 낸 경우도 있었다. 서면에 AI와의 대화 내용이나 소송 전략을 묻는 프롬프트(지시어) 문구가 그대로 복사돼 포함되기도 했다.

이러한 '가짜 자료' 제출은 재판부의 사건 심리를 지연시켜 결국 국민의 재판받을 권리를 침해한다. 법관의 91.7%는 "제도적 대응 방안 마련이 필요하다"고 입을 모았다. 특히 64.8%는 '매우 필요하다'고 답해 사안의 심각성을 방증했다. 구체적인 제재 방안(복수응답)으로는 과태료 부과 근거 마련(61.4%), 인용 판례 등의 검증의무 부과(61.1%), AI 활용 사실 기재 의무화(60.6%), 반복적 허위 인용 시 변호사 징계 의뢰(55.4%) 등이 제시됐다.

법원행정처 관계자는 "가짜 판례 인용은 상대방과 재판부 모두에게 부담을 주고 재판을 지연시키는 중대한 문제"라며 "법무부 등 관계기관과 협의해 민·형사소송법 개정을 통한 과태료 부과 근거 규정 마련을 추진하고 국회에 의견을 제출할 것"이라고 밝혔다. 아울러 법원은 전자소송 사이트에 'AI 활용 시 유의사항' 안내를 추가하는 등 소송 관계자들이 인용 자료의 정확성을 스스로 확인하도록 유도할 방침이다.

구채은 기자 faktum@asiae.co.kr