AI 오류 발견부터 피해 회복까지…국회미래연구원 "대응체계 연결해야"

오작동 피해 누적 우려…복구 대응 한계
기관 공동 대응·이용자 재검토권 등 제안

국회미래연구원이 AI의 판단 오류 발견부터 교정과 피해 회복까지 이어지는 통합 대응체계 마련을 제안했다. AI가 정상적으로 작동하는 가운데 잘못된 판단을 반복해 피해가 누적될 수 있는 만큼 기존 서비스 장애 복구 중심의 대응체계를 확대해야 한다는 지적이다.

국회미래연구원은 11일 브리프 'AI 내재화와 디지털 서비스 탄력성'을 발간하고 세 가지 정책 방향을 제시했다.

최근 병원의 영상 판독 보조, 지자체의 복지 상담, 은행의 대화형 이체 등 실제 업무에 AI가 적용되는 'AI 내재화'가 확산하면서 오작동 위험도 커지고 있다. 시스템은 정상적으로 작동하더라도 대출이나 복지급여 심사에서 잘못된 판단이 반복돼 피해가 누적된 뒤에야 오류가 발견될 수 있다는 것이다.

연구원은 국내에도 AI기본법과 개인정보보호법 등 관련 제도가 있지만, 대상과 절차가 분리돼 있고 대응 책임도 여러 기관에 나뉘어 있어 오류 교정과 피해 회복까지 이어지는 체계가 부족하다고 진단했다.

이에 일정 수준 이상의 오류가 발생하면 AI 사용을 제한하거나 사람의 검토로 전환하는 기준을 마련하고, 대응 주관기관과 관계 기관의 공동 대응 절차를 확립해야 한다고 제안했다. 또한 AI 판단이 권리와 안전에 영향을 미치는 경우 자동화 여부와 관계없이 이용자의 재검토 요청권을 보장하고, 확인된 오류로 피해를 본 다른 이용자까지 찾아 바로잡아야 한다고 강조했다.

보고서를 작성한 유희수 연구위원은 "국민의 권리와 안전에 영향을 주는 서비스부터 오류를 찾고, 바로잡고, 피해를 회복하는 제도를 하나로 이어야 한다"고 말했다.

문혜원 기자 hmoon3@asiae.co.kr