"AI 행정업무 오류 책임은 '사람'이 진다"…공공부문 윤리기준 확정

행안부 '공공부문 AI 윤리기준' 공개
국민 안심·신뢰하는 행정 환경 조성
AI 행정 최종 책임과 통제권은 '사람'

인공지능(AI)이 국민 삶에 미치는 행정 업무에 활용되는 경우 최종적인 책임과 통제권은 사람에게 있음을 명확히 한 정부 가이드라인이 나왔다.

행정안전부는 신뢰할 수 있는 AI 활용을 위한 '공공부문 인공지능 윤리기준'을 최종 확정해 공개한다고 1일 밝혔다.

이번 윤리기준은 AI를 공직사회에 활용하는 과정에서 발생할 수 있는 편향된 결정, 프라이버시 침해 등 우려를 해소하고 국민이 안심할 수 있는 행정 환경을 조성하기 위해 마련됐다.

윤호중 행정안전부 장관.

최종안은 ①행정 혁신 촉진과 ②국민 신뢰 구축을 목표로 국민·행정·기술의 세 가지 관점을 토대로 ▲공공성 ▲형평성 ▲투명성 ▲책임성 ▲안전성▲프라이버시 보호의 6대 핵심가치를 정립했다.

지난해 11월 마련한 초안에 대해 관계기관과 학계 전문가들의 검토와 의견 수렴을 거쳤으며, 6대 가치를 기반으로 공공 업무의 특성에 맞춰 실효성을 높인 총 68개의 세부 점검 사항을 점검표로 도출했다.

또한 '3단계(적용-응용-융합) 자율점검 체계'를 도입해 각 기관이 서비스의 AI 활용 수준에 따라 맞춤형 윤리기준을 적용할 수 있는 방향을 제시했다.

특히 '책임성' 기준과 관련, AI가 행정 의사결정을 지원하거나 직접적인 판단에 활용되는 과정에서도 최종적인 책임과 통제가 사람에게 있음을 분명히 했다.

그동안 AI가 복지대상자 선정, 인허가, 위험예측 등 국민 삶에 직접 영향을 미치는 행정업무에 활용되는 경우 AI 판단에 오류가 발생했을 때 누가 이를 확인하고 책임질 것인지가 주요 쟁점이었다.

이에 ▲AI 서비스의 기획부터 제공까지 전 과정의 책임 주체를 명확히 하고 ▲AI의 판단과 결정에 대해 사람이 검토하고 개입할 수 있는 인적 감독 체계와 ▲사후관리·피해구제 체계를 마련하도록 했다.

1일 행정안전부가 발표한 '공공부문 인공지능 윤리기준'의 목표와 핵심가치. 행안부 제공

이번 윤리기준은 공직자가 업무 수행과정 중 AI 윤리를 스스로 점검하고 개선해 나갈 수 있는 실무적 지침으로서의 성격을 갖는다.

행안부는 윤리기준이 실질적으로 작동할 수 있도록 공공부문 종사자를 대상으로 한 교육 프로그램을 운영한다. 공직자들이 윤리적 문제를 스스로 판단하고 해결할 수 있는 역량을 기르고 AI 윤리가 공공 업무환경에 뿌리내리도록 지원한다는 방침이다.

윤호중 행안부 장관은 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어가겠다"고 밝혔다.

김보경 기자 bkly477@asiae.co.kr