"복지·채용·과태료까지 맡길 수 있나"
성패는 도입의 숫자 아닌 '책임 체계'
일정 영역 '인간 전용 구역' 남겨둬야

[정책의 맥]행정 AI, 어디에 쓰지 않을 것인가를 정하라
AD
원본보기 아이콘

인공지능(AI)이 행정의 새로운 표준으로 빠르게 자리 잡고 있다. 정부는 부처별 활용을 넘어 행정 전반의 AI 전환에 속도를 내고 있다. 행정안전부는 AI 민주 정부 실현 전략을 내놓았고, 과학기술정보통신부 역시 AI를 국가 경쟁력의 핵심축으로 삼아 정부의 AI 전환을 뒷받침하고 있다.


방향 자체는 타당하다. 반복 업무를 줄이고 데이터를 효율적으로 분석하며, 국민에게 필요한 행정서비스를 선제적으로 알리는 데 AI는 강력한 도구다. 혜택 알림이와 국민 비서 같은 서비스는 AI 행정의 가능성을 보여준다.

문제는 AI를 얼마나 많이 도입했느냐가 혁신의 척도가 되는 순간이다. 민간에서 쓰이는 AI 워싱이라는 말처럼 AI를 도입했다는 사실 자체를 혁신인 것처럼 과장해서는 안 된다. 시스템은 늘었는데 공무원의 업무는 줄지 않고, 국민이 제출해야 할 서류와 거쳐야 할 절차도 그대로라면 AI는 혁신 도구가 아니라 기존 관료제에 덧씌운 새로운 외피에 불과하다.


더구나 행정에는 AI에 전적으로 맡겨서는 안 되는 영역이 있다. 네덜란드에서는 복지 관련 위험탐지 알고리즘이 차별과 사생활 침해 논란을 낳았고, 영국에서는 코로나19 당시 대학입시 성적을 산정한 알고리즘이 거센 반발을 불러 결국 폐기됐다. 아마존 역시 여성 지원자에게 불리하게 작동한 AI 채용 도구를 폐기한 바 있다.

교훈은 분명하다. 데이터에 과거의 편견이 담겨 있다면 AI는 이를 없애기보다 더 빠르고 정교하게 반복할 수 있다. 특히 복지 자격, 인허가, 과태료, 채용·승진처럼 국민의 권리와 삶에 직접 영향을 미치는 판단은 숫자만으로 결정할 수 없다. 예외적 사정과 맥락, 가치 판단이 개입하기 때문이다.


결국 핵심은 책임이다. 올 8월 시행된 AI 기반 행정 활성화 법도 최종 책임은 공공기관이라고 못 박았다. AI가 잘못된 판단을 내렸을 때 누가 책임질 것인가. 개발자인가, 도입한 부처인가, 최종 결정권자인 공무원인가. 이 질문에 답하지 않은 채 AI만 확대한다면 기술이 책임을 회피하는 면죄부로 기능할 수 있다. 고위험 결정일수록 인간의 감독과 판단 근거의 기록, 설명과 이의신청 절차를 제도화해야 한다. 빌 게이츠가 제안한 인간 전용구역(Human Reserved), 즉 일정 영역은 인간의 몫으로 남겨두자는 발상을 되새길 필요가 있다.


지금 정부에 필요한 것은 AI 도입의 속도전만이 아니다. 어디까지 AI에 맡기고 어디부터 인간이 책임질 것인지 경계를 정해야 한다. 반복적이고 규칙이 명확한 업무는 AI에 맡기되, 권리와 책임이 걸린 결정은 인간의 영역으로 남겨야 한다. AI 정부의 성패 역시 구축한 시스템의 개수가 아니라, 도입 이후 행정이 실제로 달라졌는지로 판단해야 한다. 서류 재제출률처럼 국민이 실제로 체감하는 지표부터 만들어 공개하고, 효과가 없는 사업은 정리해야 한다.


정부가 AI를 전면에 내세울수록 질문은 단순하다. 어디에 AI를 넣을 것인가가 아니라, 어디에는 넣지 않을 것인가다. 행정 혁신은 기술을 더하는 데서 시작할 수 있지만, 불필요한 절차와 관행을 덜어내고 인간이 책임져야 할 영역을 지키는 데서 완성된다.

AD

오철호 숭실대 행정학부 명예교수


<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈